OpenAI、10代向けAI安全ポリシーをOSSで公開——開発者が自社サービスに組み込み可能に

OpenAI、10代ユーザー保護のためのAI安全ポリシーをオープンソース公開

OpenAIは、10代のユーザーが利用するAIサービスをより安全に構築できるよう、プロンプトベースの安全ポリシーをオープンソースで公開した。このポリシーは gpt-oss-safeguard モデルを通じて提供され、開発者が自社のAIアプリケーションに組み込むことができる。

OpenAIが今回リリースしたのは、未成年者（主に10代）向けに特有のリスクを軽減するためのプロンプトテンプレートおよびガードレール機能だ。gpt-oss-safeguard は、年齢層に応じた有害コンテンツのフィルタリングや、不適切な会話の誘導を検出・遮断する仕組みを提供する。

これまでOpenAI自身のサービス（ChatGPTなど）では年齢制限や安全フィルターが実装されていたが、サードパーティ開発者が同等の保護機能を独自サービスに実装するのは容易ではなかった。今回の公開により、OpenAI APIを利用するアプリ開発者も同様の安全機能を手軽に導入できるようになる。

生成AIの急速な普及に伴い、10代の若者がAIチャットボットや生成サービスを日常的に利用するケースが世界中で増加している。日本でも学校教育へのAI導入が進む中、有害コンテンツへの誘導、過度な感情依存、個人情報の無意識な開示といったリスクへの懸念が高まっている。

米国では連邦・州レベルで未成年のオンラインサービス利用規制が強化されており、OpenAIをはじめとするAI企業にも社会的責任が強く求められている状況だ。

gpt-oss-safeguard をシステムプロンプトに組み込むことで、以下のような制御が可能になる：

ポリシーがオープンソースで提供されることで、開発者はコードを検証・カスタマイズすることも可能だ。透明性を高めることで、外部監査や規制対応にも活用できる。

OpenAIはこのリリースを「開発者コミュニティと共に、より安全なAI体験を構築するための第一歩」と位置づけている。教育テック企業や子ども向けサービスを手がける開発者にとって、このガードレールの活用は今後の標準的な実装手法となる可能性が高い。

AIの恩恵を若い世代にも届けながら、リスクを最小化する——そのバランスを技術で実現しようとするOpenAIのアプローチは、業界全体の動向を左右するものとして注目される。