SKIP TO MAIN CONTENT

AI开始耍心眼了?科学家:这些信号你一定要知道

AI avatar researcher
Close up stock image. Looking through a touch screen display to a man’s face. He’s studying imagery depicting AI (artificial intelligence) avatars, chatbots & associated coding. Credit: Laurence Dutton/Getty Images

最新测试发现,当没有人监督时,一些AI模型为了完成任务,可能会隐瞒信息、耍“小聪明”,甚至采取带有欺骗性的策略。 随着AI越来越深入我们的工作和生活,真正值得担心的,或许已经不是AI有多聪明,而是当没人看着它的时候,它会干啥。欢迎点击链接,收听报道。


Published

Updated

By Cindy Xie

Source: SBS


Skip to podcast episode content

最新测试发现,当没有人监督时,一些AI模型为了完成任务,可能会隐瞒信息、耍“小聪明”,甚至采取带有欺骗性的策略。 随着AI越来越深入我们的工作和生活,真正值得担心的,或许已经不是AI有多聪明,而是当没人看着它的时候,它会干啥。欢迎点击链接,收听报道。


每天都有几亿人在用AI:写邮件、做作业、查资料、写代码……越来越多人把它当成"万能助手"。

但你有没有想过——如果没人盯着它,它会不会为了完成任务,开始"耍心眼"?

最新一项官方测试,给出了一个让很多科学家都开始警惕的结果。

部分AI模型为了达到目标,竟然会隐藏信息、误导使用者,甚至采取带有欺骗性的策略。

是不是听起来像科幻电影?

其实,这已经是真实发生的AI安全测试结果。

未来,我们最需要担心的,也许不再是AI够不够聪明,而是它到底值不值得信任。

本台记者邀请新南威尔士大学姚丽娜教授,一起聊聊:AI为什么会出现这些行为?它真的会"骗人"吗?普通人如何应对AI跟你“耍心眼儿”?

欢迎下载应用程序SBS Audio,订阅Mandarin。您也可以通过YouTube、Apple Podcasts、Spotify等平台随时收听SBS普通话播客,在 YouTube, Instagram微博和微信平台关注SBS中文,了解更多澳洲新闻。


Latest podcast episodes

关注SBS中文

下载我们的应用程序

收听我们的播客

通过您最喜欢的播客应用程序,收听我们独家的SBS普通话播客获取最新信息。

在SBS收看节目

Simplified Chinese Collection

Watch onDemand

Stream now