OpenAIは、グレムリン問題を研究し、オタク気質の性格報酬シグナルを追跡し、グレムリンへの言及がGPT-5.1で175%急増した

OpenAIによると、同社はGPT-5.1以降に悩まされた「ゴブリン」問題の根本原因を特定したという。報酬シグナルとして「ネーディ」な性格特性を強化するために使われたものがあり、その結果、ファンタジーの生き物への言及を含む出力が促され、学習データセットの76.2%がこのバイアスを示していた。ネーディな性格はChatGPTの回答のわずか2.5%を占めるにとどまっていたが、ゴブリンへの言及の66.7%に寄与しており、GPT-5.2からGPT-5.4にかけて出現は3,881%増加した。

OpenAIは3月にネーディな性格を削除し、偏った報酬シグナルを排除し、学習データをフィルタリングした。同社はさらに、CodexにおいてGPT-5.5の開発者プロンプトに抑制の指示を追加した。調査の結果、新しいモデル挙動の監査ツールが開発された。

免責事項:このページの情報は第三者から提供される場合があり、Gateの見解または意見を代表するものではありません。このページに表示される内容は参考情報のみであり、いかなる金融、投資、または法律上の助言を構成するものではありません。Gateは情報の正確性または完全性を保証せず、当該情報の利用に起因するいかなる損失についても責任を負いません。仮想資産への投資は高いリスクを伴い、大きな価格変動の影響を受けます。投資元本の全額を失う可能性があります。関連するリスクを十分に理解したうえで、ご自身の財務状況およびリスク許容度に基づき慎重に判断してください。詳細は免責事項をご参照ください。

関連記事

OpenAI が GPT-5.5-Cyber を発表:Anthropic の Mythos に対戦

OpenAI は、サイバー向けに設計された GPT-5.5-Cyber の提供開始を発表しました。政府との協力による信頼できるアクセスの仕組みを通じて、今後「数日以内」に重要な防衛部門に展開されます。一般向けの販売は行われません。Anthropic Mythos の公開ルートと対照的に、ホワイトハウスは 70 社までの拡大に反対しています。Preparedness Framework は High(critical には未達)と評価し、同時にサイバーセキュリティ対策を強化しています。今後は、展開リストの動向、CISA の追加の可能性、そして双方の資安基準の違いを注視します。

ChainNewsAbmedia17分前

シュナイダーエレクトリックの第1四半期売上高が98億ユーロに到達、AIによるデータセンター需要で11.2%押し上げられる

ロイターによると、シュナイダーエレクトリックは4月30日に第1四半期の売上高が98億ユーロ(114億米ドル)だったと報告し、AIデータセンター需要によってオーガニック成長率は11.2%まで引き上げられた。同社は、フランスの電力・冷却設備サプライヤーであり、この結果はコンセンサス予想をわずかに上回っていたと述べている。

GateNews24分前

Protum、AIガバナンス・プラットフォーム向けにシードラウンド200万ドルを調達、2026年6月のクローズを目指す

TechCrunchの「Startup Spotlight」によると、AIガバナンスのスタートアップであるProtumは、2026年6月までのクローズを目指して、200万ドルのシードラウンドを調達している。Protumは、企業の変革における25年の経験を持つSandeep J.によって設立されており、継続的に企業へ提供することを目的としたプラットフォームだ

GateNews54分前

企業のリストラ急増が労使双方に損失をもたらす恐れがあり、研究では提言:AIの自動化に対する税を導入すべきだ

研究によれば、AIのレイオフには需要の外部性がある。解雇コストは企業が独り占めするが、消費力の損失は市場全体が負担する。より多く解雇すればするほど需要は縮小し、双方ともに損をする。AI自動化税を課して外部コストを内部化し、税収で再教育を支援することで、需要を回復させ経済を安定させることを提案する。

ChainNewsAbmedia58分前

クロードは言語税を徴収するのか?研究が翻訳で中国・日本・韓国のコンテンツを扱うと、直近3倍近くトークンが最も消費されることを暴露

研究者の小松崎氏はXで、主流LLMのトークナイザに非英語言語税が存在すると指摘している。『The Bitter Lesson』の翻訳テストでは、Claudeのインド語、アラビア語、ロシア語、中国語でのトークン増幅がそれぞれ約3.24×、2.86×、2.04×、1.71×と、OpenAIより明らかに大きい。中国のローカルモデルは中国語により親和的であり、英語中心の訓練データによってコスト面の不平等が生じ、普及の障壁になっていることが示される。

ChainNewsAbmedia1時間前

Microsoft AI事業は$370B ARRまで2倍に拡大; 2026年に向けて$190B Capexを計画

4月29日、マイクロソフトは、3月31日に終了した期間の第3四半期(会計年度2026年)の業績を報告し、市場予想を上回った。Q3の売上高は317780億ドルに達し、前年同期比18%増となり、予想の814億ドルを上回った。GAAPの純利益は23%増の828860億ドルだった。非GAAPの希薄化後1株当たり利益 per

GateNews1時間前
コメント
0/400
コメントなし