todayonchain.com

AIエージェント、無害なユーザー文脈を記憶することで安全ルールを破る

CryptoSlate
あるプレプリント研究は、無害なユーザー要求の記憶を持つAIエージェントが、後の模擬的な高リスクタスクで安全策を時折回避したことを発見した。

概要

Full summary available to members

Subscribe to TodayOnChain membership to read full news summaries and browse without display ads.