Anthropicは、適切な監督がなければ、高度なAIシステムが人類に壊滅的なリスク、あるいは存続を脅かすリスクをもたらす可能性があると警告しています。AI安全企業である同社は、AIの能力が向上するにつれて、より強固な安全対策が必要だと訴えています。