はとはとブログ

Claude in Chromeのセキュリティリスクと安全な使い方について調査・考察してみました。AIがブラウザを操作する技術には、プロンプトインジェクション攻撃という特有のリスクが存在します。Anthropic社の研究データと公式ガイドラインを基に、安全に活用するための対策を解説します。参考になれば幸いです。

Claude を開発するAnthropic社は、AI安全性研究において世界最先端の取り組みを行っています。同社の研究組織はどのような構成になっているのでしょうか。公式情報と求人情報をもとに、Anthropicの研究チーム全体像を調査・考察してみました。AI安全性研究に興味のある方の参考になれば幸いです。