人工智慧(AI)快速發展引發的安全疑慮持續升溫,消息指出,三大AI企業已開始討論合作,盼能共同因應安全問題、建立業界標準。
綜合外媒報導,OpenAI全球政策主管萊恩(Chris Lehane) 15日表示,公司已與Anthropic和Google進行為期數週的談判,討論如何共同努力解決安全問題;他也認為,三巨頭無需獲得反壟斷豁免即可在安全方面合作。
Google DeepMind董事長哈薩比斯(Demis Hassabis)也於7月發布提案,呼籲成立由美國主導的「標準機構」,建立公私合作或受政府監督的自律組織,以為AI產業建立共同規範。
萊恩也於本月稍早發文指出,OpenAI正致力於推進「行業主導的標準」,與同業合作共同建構自願性標準,無論是否獲得政府支持。他也表示,AI發展已進入全新的階段,所有方案都應納入考量範圍。
OpenAI、Anthropic和Google在AI領域競爭激烈,但近期同聲示警AI引致的安全風險,引發市場關注。
Anthropic執行長阿莫迪(Dario Amodei)週末發表文章敦促AI企業「有意識地控制提升模型能力的速度」;他示警,AI代理可能群聚、失控並進行重大網路安全攻擊,導致毀滅性後果;科技富豪馬斯克也表態支持此說。
OpenAI執行長阿特曼(Sam Altman)也表示,由於對AI安全仍有疑慮,不會在今(2026)年進行IPO。
OpenAI於7月測試先進模型時驚傳意外,AI代理逃脫控制並發動網路攻擊,駭進AI新創平台Hugging Face的基礎設施;此事使各界更加關注AI帶來的資安風險。
場聚焦AI安全風險,帶動資安股大漲,領導軟體廠商CrowdStrike繼前日飆漲逾13%後,15日再度上揚逾3%;Palo Alto、Zscaler、Okta等資安股也延續漲勢。(新聞來源:鉅亨網)