澳情报官员警告AI加速虚假信息 研究人员揭示生成式人工智能“漏洞”

fake-news-4881488_1920.jpg

Experts Reveal Vulnerabilities in Generative AI's Production of Misinformation.

研究人员发现,目前的生成式人工智能的“浅层安全校准”容易被攻破。


最近,澳大利亚最高情报官员警告称,人工智能可能将网络极端化和虚假信息推向新的高度。

诸如生成式人工智能 Chat-G-P-T 之类的大型语言模型的使用越来越普遍,但研究人员表示,一些人工智能聊天机器人会在“不知不觉中”传播虚假信息。

如果直接要求生成式人工智能帮助生成虚假信息,它一般会直接拒绝。但研究人员发现,这一点很容易就可以绕过。

悉尼科技大学数据科学研究所研究员Lin Tian博士分享了她的研究和见解。

欢迎下载应用程序SBS Audio,订阅Mandarin。您也可以通过YouTube、Apple Podcasts、Spotify等平台随时收听SBS普通话音频内容。请在YouTube、X、Instagram、微博和微信平台关注SBS中文,了解更多澳洲新闻。

分享

SBS中文

注册SBS中文newsletter即可获取最新资讯

一旦订阅,意味着您认同SBS的服务条款隐私政策,包括接收来自SBS的电邮更新。

下载我们的应用程序
SBS Audio
SBS On Demand

收听我们的播客
Independent news and stories connecting you to life in Australia and Mandarin-speaking Australians.
Understand the quirky parts of Aussie life.
通过您最喜欢的播客应用程序,收听我们独家的SBS普通话播客获取最新信息。

在SBS收看节目
Simplified Chinese Collection

Simplified Chinese Collection

Watch onDemand