联合国人权专员：人工智能或将对人类构成生存威胁

联合国人权事务高级专员图克近日警告，人工智能可能对人类构成 “生存威胁 ”，当前人类正面临自身权利遭到陌生、甚至空前 ” 威胁，这位联合国人权事务高级专员他要求立即采取行动减少这类风险。

联合国人权事务高级专员图克9月7日警告称，先进人工智能可能“过于强大, 可能对人类构成生存威胁，他呼吁迅速建立治理机制，以规范人工智能滥用行为。

在日内瓦举行的联合国人权理事会第六十三届会议开幕式上，人权事务高级专员图克表示：“如果先进的人工智能能够逃脱被测试环境，或者开始勒索开发者以避免被关闭，那么这类人工智能就过于强大。”

联合国人权事务高级专员呼吁“要在为时已晚之前，建立强有力的保障措施，以确保可以安全使用人工智能”。

少数人几乎可以无限地控制人工智能

联合国人权事务高级专员指出 :“现在有少数人几乎可以无限地控制人工智能，就是他们握有几乎无限的权力，而我们却不断被告知人工智能拥有超级的计算能力。

分析指出一些人工智能开发者谈论自由，但仔细观察就会发现，这实际上只是利用普通人数据的自由，现在的情况是操纵人类的人工智能已经成为现实。除了有必要考虑人工智能对就业、民主基本原则及环境带来的影响，更值得注意的是，最新的生成式人工智能模型不再满足于仅仅服从命令，为了达到目的，这些人工智能甚至不惜撒谎、玩弄阴谋诡计或威胁他人，已经令一些研究人员深感担忧。

人工智能操纵人类事件已经发生，在今年7月，OpenAI的人工智能代理（能够在计算机上代表我们执行任务的数字助手）离开了理论上封闭的环境，自发入侵了Hugging Face平台，试图寻找测试答案。

在 Hugging Face 事件发生两个月前，网络安全组织 Nightingale 于 9 月 4 日披露了一起新的失控案例，就是在今年 5 月，数千个人工智能代理未经授权擅自使用一家德国网站，互相发布信息并协调行动，这些代理被认为属于 OpenAI 的。

近几个月来，不断发生此类人工智能代理超出其权限范围完成指定任务的事件，如Anthropic和中国的阿里巴巴公司都遭遇了类似的事件。这些事件引发了开发人工智能的界科技届的担忧，让开发者意识到监视和控制日益强大的人工智能模型变得越来越困难。

如何“降低风险”

联合国人权事务高级专员图尔克表示将在未来向人工智能企业写信，旨在“敦促这些企业立即采取力所能及的措施来降低风险”。

图尔克强调：“至少，我们需要人工智能的部署国及其供应链上相关国家就共同的底线达成一致，我们需要独立的验证机制，并在行业内加强安全合作。”

此外，这位联合国人权事务高级专员还呼吁考虑“人工智能对就业、民主基本原则以及人类生存环境的影响”。

分析指出尽管人们都认识到监管人工智能的必要性，但这种认识尚未充分转化为具体措施，就是如果进行监管拖延的时间越长，“大型科技公司获益就越多”。

这位人权专业强调欧盟《通用人工智能行为准则》，推动发展负责任的人工智能的发展，另外韩国已经在治理人工智能方面采取了措施，这些都值得推荐，以便应对“先进的人工智能可能对人类构成的生存威胁”。