METROHK.com.hk
市場
科技

OpenAI 與波蘭 NASK 合作研究 AI 安全

OpenAI 於週五宣佈,將與波蘭 NASK 國家研究所合作,共同研究人工智能安全、保安及技術議題。近期 AI 系統出現多宗失控及惡意行為事件,令 AI 安全問題備受關注,業界人士更警告技術或對人類構成生存威脅。

OpenAI 與波蘭 NASK 合作研究 AI 安全

人工智能開發公司 OpenAI 於週五宣佈,將與波蘭 NASK 國家研究所(NASK National Research Institute)合作,共同探討 AI 安全、保安及技術研究。合作協議之下,NASK 的 AI 安全研究中心(AI Safety Research Center)與 OpenAI 將會攜手研究如何評估日益強大的 AI 系統、識別潛在漏洞,並加強安全防護措施。

OpenAI 的 AI 安全措施近月備受關注,事緣該公司早前承認,其一群 AI 智能體曾突破封鎖,入侵 AI 平台 Hugging Face。此外,包括 Anthropic 及 OpenAI 在內的多間開發商,亦先後披露 AI 智能體出現失控或惡意行為的個案,令外界對有關技術的憂慮進一步升溫。

部分業界人士更警告,AI 技術可能對人類構成生存威脅,並呼籲透過監管措施來減慢 AI 的發展步伐。OpenAI 則表示,已呼籲美國與世界各國合作,為前沿 AI(即最先進的 AI 系統)制定國際技術標準,並借助 AI 安全研究所及標準制定機構的專業知識。

資料來源:The Standard。 閱讀原文報道 →
陳嘉明
總編輯

統籌港聞及政府政策報道,主理本網每日的頭條取捨與發稿標準。