大衛愛德華茲
分享它！
美國、英國、澳洲、加拿大、法國、德國、以色列、義大利、日本、紐西蘭、奈及利亞、挪威、韓國和新加坡等十八個國家共同發布了一套旨在加強安全的指導方針人工智慧模型。這份 26 頁的文件於 20 月 XNUMX 日發布，敦促人工智慧公司優先考慮網路安全，強調「設計安全」實踐的必要性。這項倡議由美國國土安全部長亞歷杭德羅·馬約卡斯牽頭，凸顯了網路安全在快速發展的人工智慧領域的關鍵作用。
該文件提供了廣泛的建議，例如對人工智慧基礎設施的嚴格控制和持續監控潛在的篡改。它也強調了對員工進行網路安全培訓的重要性。然而，它並沒有解決人工智慧領域的一些有爭議的問題，例如圖像生成模型的監管、深度偽造以及訓練模型中的數據使用，這些問題已導致多家人工智慧公司面臨版權侵權訴訟。
馬約卡斯強調了人工智慧發展的關鍵時刻，並認識到人工智慧是一項具有深遠影響的技術，網路安全對於確保其安全性和可靠性至關重要。
這些指導方針是政府參與人工智慧監管的更廣泛趨勢的一部分。本月早些時候，人工智慧安全高峰會在倫敦舉行，重點關注人工智慧開發協議。同時，歐盟正在完善其人工智慧法案以規範該產業，美國總統拜登於 XNUMX 月發布了一項行政命令，建立人工智慧安全標準。歐盟和美國的舉措都面臨人工智慧產業的抵制，因為擔心扼殺創新。
OpenAI、微軟、Google、Anthropic 和 Scale AI 等主要人工智慧公司也在製定這些新的安全準則方面發揮了作用。
