【分析】发展AI过程中应限制AI的能力 否则将后患无穷

最近我们看到在美国的IT界是出现了一个事情：科技公司自己开发的AI模型发生了一些自主攻击的事件，造成了不小的争论和轰动。

我们应该怎么样来看待这件事？

对于在澳大利亚有可能建立大型的数据中心的这样的一个事情？行业内人士又是怎么看的？

Docy AI联合创始人和首席架构师Henry田首先从技术和工程的角度分析了美国的这次模型主动攻击事件，他认为这个事件归功到底是网络安全问题。

他分析说：“我们不是说在发展过程中去不断地自由地去释放AI的能力，而是应该让AI的能力是在可控、可观察、可撤销的这个边界内逐步地去释放。”

同时Henry指出,从安全问题看来，员工很难被AI代替。

“我们目前来说，一个企业它可以用到一个很好的AI工具，甚至是一整套流程，一整套系统，但是它始终需要人去最终做这个把关，这就是我们说的，AI的能力边界和它的权限边界需要被严格区分。”

Henry田支持澳大利亚建立大型数据中心。

“澳洲建数据中心这件事情，我认为是有必要的。如果没有本地算力，那澳洲可能会面临几个问题。”

点击音频收听详细采访

本节目仅为嘉宾观点

欢迎下载应用程序SBS Audio，订阅Mandarin。您也可以通过YouTube、Apple Podcasts、Spotify等平台随时收听SBS普通话音频内容。请在YouTube、X、Instagram、微博和微信平台关注SBS中文，了解更多澳洲新闻。