Menurut ChainCatcher, CEO Anthropic Dario Amodei mengatakan perusahaan akan melatih dan menerapkan sistem AI dengan kecepatan yang diperlukan untuk membangun keyakinan akan keamanannya dan tetap mengendalikannya di bawah pengawasan manusia, alih-alih tunduk pada tekanan komersial atau politik. Membahas penawaran umum perdana Anthropic, ia mengatakan pencatatan saham tersebut memperkuat keuangan perusahaan dan tekadnya untuk membuat pilihan yang tepat.
Amodei mengatakan ia dan para pendiri lainnya memulai Anthropic dengan keyakinan bahwa teknologi canggih seharusnya bermanfaat bagi umat manusia. Ia melihat potensi AI untuk bekerja bersama manusia dalam memadatkan kemajuan ilmiah dan medis selama satu abad menjadi satu dekade, meskipun ia mencatat bahwa hasilnya masih berada pada tahap awal dan eksperimen serta uji klinis membutuhkan waktu. AI dapat mempercepat proses tersebut.
Ia mengatakan bahwa pelanggan menggunakan AI untuk mendukung pertumbuhan ekonomi, membantu orang keluar dari kemiskinan, melindungi demokrasi dan masyarakat yang bebas, serta meningkatkan layanan publik. Ia juga menyebutkan risiko, termasuk penyalahgunaan oleh individu atau negara, gangguan ekonomi, dan hilangnya kendali atas sistem AI, seraya mengatakan bahwa dampak tersebut bergantung pada pilihan yang dibuat oleh para pengembang. Anthropic telah mengerjakan langkah-langkah perlindungan biologis dan siber, pelatihan dan pengujian penyelarasan, serta metode untuk memeriksa proses internal model dan mengarahkan perilakunya.
Amodei menggambarkan upaya membangun perusahaan yang sukses sekaligus membuat pilihan keselamatan yang bijak sebagai “kompetisi yang mendorong kemajuan”, yang bertujuan meningkatkan industri terlepas dari apakah Anthropic memimpin pada waktu tertentu.
