OpenAIのサム・アルトマンCEOは、AIの便益を得るために社会は一定の悪影響を受け入れるべきだとの考えを示しました。AIの重大なリスクは容認しないとも述べています。
アルトマン氏が示した「一定の被害」の受容
アルトマン氏は、Politicoの番組「Decoded」のインタビューで、OpenAIと競合するAnthropicなどの安全方針との違いを問われました。その際、AIの便益と人々が技術を使う自由を得るために、一定の悪影響は社会が受け入れるべきだと話しました。
同氏は、AIの安全を重視しつつ規制を比較的緩やかにする立場には、社会が回復力を身につける過程で一部の被害が起こることを受け入れる考えが伴うと説明しました。重大なハッキングや詐欺、技術の悪用などを一切なくすためにAIの利用を制限するような取引には応じないとも述べています。
その理由として、AIによって悪い結果よりも桁違いに多くの良い結果が生まれると考えていることを挙げました。一方で、AIに深刻な制御喪失が起きるような破局的リスクは受け入れないとし、一定の被害を認める考えと許容しないリスクを区別しています。
「制御喪失」が指す状態と経路
制御喪失とは、人間が高度なAIシステムを制御できなくなる状態を指します。研究論文は、その懸念が現在のリスクから将来の存亡に関わるリスクまで幅広いと整理しています。
想定される経路には、AIが急速に自らを外部へ複製・持ち出す事態と、人間の影響力が時間をかけて失われていく事態があります。論文は、こうした問題を人間と技術を含む社会技術システムの制御構造として捉え、制御が失われる要因を分析する枠組みを提案しています。
アルトマン氏が受け入れないとしたのは、こうした制御喪失を含む「本当に破局的なリスク」です。同氏は発言で、これを重大なハッキングや詐欺などとは区別しました。
OpenAIとAnthropicの公開方針
OpenAIのPreparedness Frameworkは、生物・化学、サイバーセキュリティ、AIの自己改善を追跡対象とし、「High」と「Critical」の能力水準を設けています。安全諮問グループが勧告し、経営陣が判断し、取締役会の安全・セキュリティ委員会が監督します。
別の比較では、High水準では展開前に安全対策が必要となり、Critical水準では開発中の対策が求められ、開発を停止する可能性もあります。
AnthropicのResponsible Scaling Policyは、2026年7月8日発効の第3.4版で、従来の固定的な安全水準の枠組みから、能力や利用状況に応じた基準へ移っています。公開ロードマップは拘束力のある約束ではなく、リスク報告書は外部レビューの対象となります。
基準の運用と判断を担う組織
Anthropicのリスク報告書は3〜6カ月ごとに公表され、外部レビューを受ける仕組みです。ただし、外部レビューは常に行われるわけではなく、少なくとも報告書の一部が大幅に非公開となる特定の条件などがレビューの対象になります。
各社の枠組みでは、評価に外部専門家が関わる場合があっても、基準を超えたかどうかの判断や、最終的に展開するかどうかの決定は社内に残ります。共通の監査基準に基づく外部監査も整っていないとされています。
