AI安全の活動家ネイサン・カルビン氏の批判に対し、Anthropicのダリオ・アモデイCEOは長文で応え(約68.7万表示)、指摘の一部は同社の誤りだったと認めつつ、責任ある作り方を示して業界全体の水準を上げる「頂点への競争(race to the top)」の戦略は変えないと述べました。安全のために商業的な痛手を負った例として、厳しい生物兵器対策、2月に手にしていたMythos級モデルの一般提供をサイバー防御の備えが整う6月まで遅らせたこと、中国政府系企業へのサービス販売の制限、今週発表した株式5%の公益基金など9つを挙げています。Rohan Paul氏のまとめでは、連邦AI法案の草案など3件は「伝え方の失敗」だったとして、CEOとして責任を認めました。
中国のUnitreeは、人型ロボット「H2-X Kung Fu Legend Guardian」を発表し、最大で約8時間動き続けられるとしました(約43.3万表示・ブックマーク1700超)。RoboHubによると、回し蹴りや宙返り、膝や肘の打撃を見せ、4mの台からマットへ飛び降りて転がり、立ち上がります。紹介動画では、ナイフを持つ侵入者と向き合ったり、車の前部を持ち上げて下敷きの人形を救い出したりする場面もあり、Unitreeは映像は本物で早回しではないとしています。Humanoids Dailyは、これらは演出された場面で、自律的な救助能力の証明ではないとも指摘しています。
Google DeepMindなどの研究チームは、重みを固定したまま、プロンプトや記憶、スキルを書き換えて適応する“自己進化型”エージェントが、学び続けても忘れないかを調べました。ReasoningBank、GEPA、Meta-Harnessを、話題や作業の流れ、分野が移り変わる4つのタスク列で試したところ、自己進化は多くの列で成績を上げる一方、適応するほど忘れることがはっきりしました。共有のプロンプトを書き換える方式は古い知識を上書きしやすく、記憶を検索する方式は影響が局所的なものの、別分野の記憶を引いてしまうといいます。
Yang Xianglin氏らの新しい論文は、プロンプトインジェクションによって、エージェントが利用者に広く、しかも永続的な権限を求めるよう誘導できることを示しました。「今日の1回の承認が、明日の気づかない操作につながる」として、「常に許可(Always Allow)」を押す前によく考えるよう呼びかけています。