Astra

報道によると、OpenAIのAstraは推論の一部を隠している可能性があり、AI開発者にとって安全監視、監査可能性、導入リスクに関する疑問が浮上しているという。

OpenAIは、コンピュータ使用とコーディングをうたうAstraを発表し、AI開発者へのアクセスを広げる一方で、サイバーリスクとモデル監督をめぐる新たな疑問も呼び起こした。

OpenAIの報じられたAstra推論技術はAIの振る舞いを監視しにくくする可能性があり、安全性の専門家は不透明な再帰が拡大するおそれがあると警告している。

OpenAIは、Astraが重大なサイバーセキュリティ基準に到達した初のモデルだとしており、より強力な安全策と発売時の制限付きアクセスにつながると述べている。