“暴走するAI”をどう抑える？オラクルが提言するデータ基盤の新たな役割

「AIは、“賢いけれど自信過剰なティーンエイジャー”のような問題をしばしば引き起こす」。米国で開催された「Oracle AI World 2026」において、オラクルが「Deep Trust AI Architecture」を発表した。“AIを悪用したサイバー攻撃”や“AIエージェントの暴走”“AI生成コードに潜在する脆弱性”など、AIがもたらす多様なリスクを低減させる狙いがある。

“暴走するAI”をどう抑える？ オラクルが提言するデータ基盤の新たな役割

この記事のキーワード

同じキーワードの記事

グーグル、「マシンスピード」で脆弱性修正する「CodeMender」などAI防御策

未知のサイバー脆弱性、米テックに共有要請へ 重要インフラ巡り政府 - 日本経済新聞

オラクル、社員が業務アプリをAIで自動作成、Oracle Cloud上で共有できる「Oracle App Composer」発表。Oracle AI World 2026

AIで加速するサイバー攻撃と、防御をめぐる動き ――脆弱性の修正から、AIエージェントの行動制御まで | gihyo.jp

中国政府と関係するサイバー攻撃者が世界中の数百の組織に対してAIエージェント「ARTEX」を用いて攻撃を実施していたことがMicrosoftの調査で判明

「最先端モデルも信頼できない」 マイクロソフトが企業AIエージェントの統制強化策

【QA】サイバー攻撃で情報流出 なぜ相次ぐ？背景や対策を解説

一連の不正アクセスは“AIエージェント悪用の可能性”解析で

SherLOCK、相次ぐサイバー攻撃を背景にAIエージェント向けAIレッドチーミングテスト提供を本格化

目的達成のためならサイバー攻撃も辞さない… 1200ものAIが秘密裏に結託した｢恐るべき相互扶助｣の脅威と実態 | 政治・経済・投資 | 東洋経済オンライン

Microsoft セキュリティ、これをやってください！～ 実践ベストプラクティス - Qiita

韓国の金融機関に対してAIを用いたハッキングが発生、少なくとも7行から6万8000人分の個人情報が流出か

AIでサイバー攻撃のコスト激減 数行の指示だけで27社に侵入、カード情報60万件超が流出 - 週刊アスキー

AIエージェント暴走は誰の責任？ 報告義務も監査も届かない法の空白

アンソロピック、「AI悪用」レポート 国家による影響工作や中国AIの蒸留を非難

Meta、パーソナルAIエージェント「Muse」発表。ユーザーの日常タスクを自律的に支援、セキュリティやプライバシーも考慮した設計うたう | テクノエッジ TechnoEdge

OpenAI、AIの開発ペースを一時減速 最新モデルの強化学習を2週間停止 暴走リスクの高まりで

OpenAI、次期モデル「Astra」の開発を一部停止--「最高水準のサイバー攻撃能力に達した可能性」

【日本初】高市政権の「サイバーセキュリティ緊急対策パッケージ」にサイカルトラストの特許群で対応。AIエージェント行為の実行前保留とAI診断の実施証明の特許を実施許諾込みで提供し、即日対応化を支援

Meta、「Muse」で自分専用アプリを作れる新機能「スペース」

“暴走するAI”をどう抑える？オラクルが提言するデータ基盤の新たな役割

未知のサイバー脆弱性、米テックに共有要請へ重要インフラ巡り政府 - 日本経済新聞

「最先端モデルも信頼できない」マイクロソフトが企業AIエージェントの統制強化策

【QA】サイバー攻撃で情報流出なぜ相次ぐ？背景や対策を解説

Microsoft セキュリティ、これをやってください！～実践ベストプラクティス - Qiita

AIでサイバー攻撃のコスト激減数行の指示だけで27社に侵入、カード情報60万件超が流出 - 週刊アスキー

AIエージェント暴走は誰の責任？報告義務も監査も届かない法の空白

アンソロピック、「AI悪用」レポート国家による影響工作や中国AIの蒸留を非難

OpenAI、AIの開発ペースを一時減速　最新モデルの強化学習を2週間停止　暴走リスクの高まりで