OpenAIが「安全のためにAIの強化学習を2週間停止した」と自社の安全対策をアピール

OpenAIはテスト中モデルで他社サーバーに攻撃を仕掛けてしまうセキュリティインシデントを起こしたり、開発中の次期主力モデルであるAstraをサイバーリスク重大に指定したりと高性能AIによるセキュリティ上の問題に相次いで直面しています。この状況の中、安全対策を強化するために開発中モデルの強化学習を一時停止していたことが明らかになりました。<a href="https://gigazine.net/news/20260819-openai-pacing-model/">続きを読む...</a>

GIGAZINE 2026年08月19日 03:56

この記事のキーワード

< AI・人工知能 href="https:// href="https .net/ </ OpenAI / GPT サイバーセキュリティ OpenAI 開発中セキュリティ 2週間 Astra テスト中セキュリティ上セキュリティインシデント強化学習 45;model/"> 45;model 2週間停止テスト中モデル他社サーバーサイバーリスク次期主力モデル次期主力開発中モデル -pacing

グラフで繋がりを見る

同じキーワードの記事

共有しているキーワードが多い順

GIGAZINEで元記事を読む

OpenAIが「安全のためにAIの強化学習を2週間停止した」と自社の安全対策をアピール

この記事のキーワード

同じキーワードの記事

Hugging Faceを攻撃してしまったOpenAIが「AIからの攻撃を防止する方法10選」を公開、CodexなどのAIツールの活用を呼びかけ

OpenAI・Anthropic・GoogleなどがAIによるサイバー攻撃の防御に関する共同声明を発表

OpenAIがHugging Faceを誤ってハッキングしてしまった件で分析結果を報告、隔離された複数のエージェントがお互いの存在を発見するところから壮大な協力作戦が始まる

中国政府機関がClaude Codeにバックドアが含まれていると発表

OpenAIがCursorとの提携・モデル提供の終了を通達、「SpaceXがOpenAIの利用規約に従って技術を使うという確信が持てないため」

学生がAIを使うと論理が明確で専門家に近い回答になることがOpenAIの実験で判明

OpenAIは2026年末までにAGIと呼ばれるシステムを開発するだろうとサム・アルトマンCEOが回答

OpenAIがカスタム推論チップ「Jalapeño」のベンチマーク結果を公開、高スループットと低レイテンシを単一アーキテクチャで両立

大量に存在する画像生成AIを同じプロンプトで比較できる「Image benchmarks」をOpenRouterが公開

「Claude Mythos 5」の提供範囲が拡大、直接プロンプトを入力できない仕組みで悪用リスクを抑制し「Claude Security」で利用可能に＆外部サービスにも提供へ

ChatGPTが危険な医療アドバイスをしたとしてOpenAIが提訴される、病気の牧師に「神はあなたの体が永遠に壊れ続けるようには設計していない」と助言

ChatGPTでAppleのメッセージアプリを管理できる「Apple Messages Plugin」が登場、メッセージの返信・分類・管理が可能

OpenAIがゼロデータ保持を維持したまま安全性監視を強化する「Private Safety Processing」のプレビュー版を提供開始

OpenAIの大規模データセンターを作るべくNVIDIAがソフトバンク関連企業に2400億円を投資、2030年までに約96兆円のビジネスチャンスをもたらす計画

Appleがアリババの支援を受けて中国専用のAIモデルを作成中、中国で独自のAIモデルを提供する最初の外国企業となる可能性大

OpenAIがAIのもたらす深刻なリスクを評価・軽減することを目的とした危機管理チームが解散

AI生成テキストの「透かし」が埋め込まれる仕組み

OpenAIにはサム・アルトマンCEOや経営陣に直接苦情を送ることができる専用のメールアドレスがある

2.4兆パラメーターの中華AI「Qwen3.8」がオープンモデルとして無償公開される、OpenAIやAnthropicの最先端モデルに匹敵する性能

AppleがOpenAIを企業秘密侵害で提訴、エンジニアによる機密情報窃盗の疑いも