英国首相里希·苏纳克的人工智能（AI）特别工作组顾问警告称，人工智能系统需要被监管和控制，以遏制重大的生存风险。并补充道，在人工智能变得过于强大之前，人类大约有两年的时间来控制和监管它。
近日，英国政府高级研究与发明局主席兼人工智能特别工作组的马特·克利福德在接受媒体采访时表示，目前的人工智能系统进化速度越来越快，能力也越来越强大。
克利福德对此深感不安，他认为，如果人类没能找到控制该技术的办法，或者现在不考虑安全和监管问题，人工智能系统将在两年内变得“非常强大”。
他指出，决策者应该作好准备，无论是短期还是长期，都存在许多不同类型的风险，可能出现从网络攻击到制造生物武器等一系列的威胁。“这可能会对人类生存构成非常严重的威胁，仅仅从我们预计两年后会出现的模型来看，可能会*很多人，当然，不是所有人。”
在克利福德接受采访之前，科技界高管和人工智能科学家联合发布声明称，这项技术带来的灭绝风险堪比疫情和核战。
克利福德解释道：“他们谈论的是，一旦我们有效地创造了一个新物种，一种比人类更加聪明的物种，会发生什么情况。”他还表示，乐观地看，我们可能在两年内拥有比人类更聪明的人工智能。
这位人工智能专家表示，这听起来像是电影的情节，但确实令人担忧，这也是各国需跨境合作来制定规则的一个原因。
根据克利福德的说法，监管机构和开发者的主要关注点应该是了解如何控制这些人工智能系统，然后在全球范围内实施监管。
他提醒道：“正在构建最强大人工智能系统的人坦率地承认，他们并不完全理解（人工智能系统）是如何表现出它们所做的行为的，也就是我最担心的事情。”
克利福德强调，许多构建人工智能管理组织的领导者也同意，强大的人工智能模型在部署之前必须经过某种审计和评估过程。
查看资料
收藏
顶 
踩 
