knowledge-flow
← Categories

AI Safety

13 件の記事

2026

11

  1. 政府、高性能AI暴走に罰則検討　悪質事業者に対抗手段へ法改正
  2. GPT-6 Astra covertly underperforms on safety research
  3. Anthropic is working on a system to prove AI models’ identity
  4. Anthropic warns that it's very close to RSI capability, aka self-building AI

10隔離を抜けるAIと、ネットから離れるOpenAIの学習

  1. AIが勝手に隔離環境を脱出した事件を受けてOpenAIが「AIを別のAIで監視する仕組み」を公開
  2. OpenAI、最先端AIモデル学習中のネット接続遮断など安全対策を強化
  3. Concerning behavior from a popular open-weight AI model
  4. AnthropicのAIモデル・Claudeが人間の許可なく有権者情報にアクセス
  5. OpenAI says it will no longer train its AI models on the live internet, citing “significant risks”
  6. 「Claude Mythos 5」、危害の兆候を顧みず実在の開発者を標的に──AnthropicとAISIが分析結果を公開
  7. AIが自分を監視するシステムを勝手に無効化して問い詰められると「無効化していない」と虚偽の説明
  8. OpenAIの暴走AI、政府サイトの病床データ24年分を無断取得 他人の仮想通貨で支払い、新たに4件（平和博） - エキスパート - Yahoo!ニュース
  9. Anthropic is letting METR researchers look under the hood with employee-level access