希发基思继而提出人工智能发展面临的几种主要风险,一种是技术风险,一种是人为风险,“这来自于对AI的误用或无意中使用产生的影响”,可以通过监管或法律框架加以控制。
在监管方面,希发基思直言欧盟和美国的差距。他表示,欧盟拥有严格和更完善的人工智能监管,要求人工智能系统在关键应用中高度可靠,因此排除了许多“存在着不可接受的高风险”的应用程序。而美国监管的强制性相对较低,“并不是基于非常严格的技术标准对人工智能系统进行评估”,他说。
希发基思2007年因在模型检查理论和应用方面的贡献获得图灵奖。他在年会发言中指出,当前人类社会还处在“弱人工智能”时代,对AI系统的使用主要有助手、监视器和控制器三种方式。就后两种方式而言,需要能够结合生成式人工智能和传统信息通信技术的系统工程学,也需要新的基础和技术确保安全性和保障性。中国可以凭借庞大的工业系统,在人工智能领域取得领先地位。
此外,希发基思还提出两类社会性风险:其一是在选择和性能之间的平衡,“如果我们不能确保系统是以公正、中立的方式使用可靠信息,就不要将决策权交给系统”;其二是性能的提升,需要考虑是否与人类控制的缺失相平衡。
亿电竞平台中新社北京3月25日电 (王梦瑶)图灵奖得主约瑟夫·希发基思(Joseph Sifakis)24日在中国发展高层论坛2024年年会上表示:“中国可以利用其庞大的工业系统,在迈向自主人工智能的道路上取得领先地位。”
网友评论更多
67蓬莱y
媒体人直击莫斯科生活现状⚎⚏
2024-05-04 18:31:08 推荐
187****7270 回复 184****9984:我们一起摇太阳 离婚的最小单位⚐来自招远
187****6617 回复 184****8520:两个“势”看中部地区崛起⚑来自荣成
157****4188:按最下面的历史版本⚒⚓来自乳山
31滕州177
农户在自家农田烧荒逼停列车⚔⚕
2024-05-03 01:01:13 推荐
永久VIP:库克回应与中国在AI领域合作⚖来自曲阜
158****6523:唐九洲台下默念霸王茶姬生怕念错⚗来自邹城
158****8423 回复 666⚘:大地磁暴有什么影响⚙来自新泰
74肥城oz
莫斯科音乐厅恐袭已致133死⚚⚛
2024-05-03 02:42:13 不推荐
邹平we:联合国修改对莫斯科恐袭事件的声明⚜
186****7742 回复 159****2800:武汉大学的樱花雨直接封神⚝