Regulator Inggris sedang bergegas untuk menilai bahaya yang ditimbulkan oleh model AI terbaru Anthropic, setelah pejabat memutuskan bahwa kemampuannya untuk menemukan cacat perangkat lunak yang tersembunyi dapat menjadi risiko langsung bagi bank, perusahaan asuransi, bursa, dan sistem keuangan yang lebih luas.

Menurut Financial Times, pembicaraan melibatkan Bank of England, Otoritas Perilaku Keuangan, HM Treasury, dan Pusat Keamanan Siber Nasional, yang sedang meninjau kerentanan dalam sistem TI di seluruh keuangan Inggris.

Bank-bank Inggris, perusahaan asuransi, dan bursa akan diperingatkan dalam dua minggu ke depan tentang risiko yang terkait dengan Claude Mythos Preview, rilis terbaru dari Anthropic, yang sebelumnya dilaporkan oleh Cryptopolitan. Tanggapan Inggris mengikuti panggilan dari Menteri Keuangan AS Scott Bessent, yang mengundang para pemimpin dari bank-bank besar Wall Street untuk membahas isu yang sama.

Minggu lalu, ketika Anthropic merilis Mythos kepada pelanggan terpilih, start-up San Francisco senilai $380 miliar mengatakan sistem tersebut telah menemukan “ribuan kerentanan tingkat tinggi, termasuk beberapa di setiap sistem operasi utama dan browser web,” termasuk beberapa yang tidak terdeteksi selama puluhan tahun.

Regulator mempersiapkan peringatan bank saat model siber Anthropic menarik cacat sistem lama ke dalam pandangan

Masalah ini akan dibahas dalam pertemuan berikutnya dari Kelompok Ketahanan Operasional Pasar Lintas, atau CMORG, di mana regulator Inggris dan perusahaan keuangan membahas ancaman terhadap sektor tersebut. CMORG dipimpin bersama oleh Duncan Mackinnon, direktur eksekutif Bank of England untuk risiko pengawasan, dan David Postings, kepala UK Finance.

Kelompok ini mencakup perwakilan senior dari delapan bank terbesar Inggris, empat penyedia infrastruktur keuangan, dua perusahaan asuransi, ditambah NCSC, FCA, dan HM Treasury. The Telegraph pertama kali melaporkan agenda tersebut. Bank of England menolak untuk memberikan komentar.

Anthropic mengatakan, “Tidak akan lama sebelum kemampuan seperti itu menyebar, berpotensi melampaui aktor yang berkomitmen untuk menerapkannya dengan aman.” Mereka juga memperingatkan bahwa “dampak bagi ekonomi, keselamatan publik, dan keamanan nasional bisa sangat parah.”

Pejabat sedang memeriksa apakah alat seperti ini dapat mengekspos titik lemah di seluruh sistem pembayaran, tempat perdagangan, jaringan asuransi, dan bagian inti lainnya dari pasar. David Raw, direktur pelaksana untuk ketahanan di UK Finance, mengatakan, “Kami menyadari laporan pers tentang pengembangan AI Anthropic dan risiko yang disorot.”

Ia menambahkan, “UK Finance berinteraksi dengan anggota kami dan melalui kemitraan publik/privat kami mengenai risiko operasional signifikan yang dapat mempengaruhi ketahanan sektor layanan keuangan Inggris.”

Bank of England juga dapat memanggil Kelompok Kontinuitas Bisnis Pasar Lintas yang terpisah dalam satu hingga dua jam selama ancaman mendesak, tetapi mereka tidak melakukannya di sini.

OpenAI menangguhkan Stargate UK sementara Inggris bergumul dengan biaya energi dan ketidakpastian aturan AI

Latar belakang AI yang lebih luas sangat sulit pada saat yang sama. OpenAI, saingan Anthropic, menangguhkan proyek pusat data UK bernilai miliaran pound, Stargate UK. Rencana tersebut mencakup lokasi besar di timur laut Inggris dan akses ke chip kuat melalui kemitraan dengan Nvidia dan Nscale.

Ini adalah bagian dari paket investasi teknologi Inggris senilai £31 miliar. Pada hari Kamis, seorang juru bicara OpenAI mengatakan perusahaan akan melanjutkan hanya ketika “kondisi yang tepat” dapat “memungkinkan investasi infrastruktur jangka panjang.”

Juru bicara mengatakan, “Kami melihat potensi besar untuk masa depan AI Inggris. London adalah rumah bagi pusat penelitian internasional terbesar kami, dan kami mendukung ambisi pemerintah untuk menjadi pemimpin AI.” Mereka menambahkan:-

“Komputasi AI adalah dasar untuk tujuan itu. Kami terus menjelajahi Stargate UK dan akan maju ketika kondisi yang tepat seperti regulasi dan biaya energi memungkinkan investasi infrastruktur jangka panjang.”

Ketika OpenAI mengumumkan proyek tersebut pada bulan September, mereka mengatakan akan memperkuat “kemampuan komputasi berdaulat” Inggris dan mendukung pengembangan AI lokal. Mereka juga mengatakan proyek tersebut akan membantu menggerakkan ekonomi masa depan, meningkatkan daya saing, dan mendukung Rencana Aksi Peluang AI nasional.

Namun harga energi Inggris sudah jauh di atas harga di AS sebelum perang Iran mendorong biaya lebih tinggi, dan ketidakpastian tetap ada mengenai apakah hukum akan berubah untuk memungkinkan perusahaan AI melatih model pada karya berhak cipta melalui sistem “opt-out” untuk pencipta.

Jangan hanya membaca berita crypto. Pahami itu. Berlangganan buletin kami. Itu gratis.