Aturan Uni Eropa tentang penggunaan AI sangat mampu menangani agen-agen yang menyimpang, kata kepala teknologi UE Henna Virkkunen.

Ada kekhawatiran global menyusul insiden di OpenAI dan Anthropic, serta muncul ketakutan bahwa agen AI yang menyimpang mungkin bertindak di luar kendali manusia.

“Kami melihat bahwa keselamatan dan keamanan model yang sangat mumpuni merupakan topik yang sangat hangat secara internasional, dan kami di Eropa memiliki kesiapan yang baik untuk menghadapinya,” kata Virkkunen dalam wawancara dengan Reuters pada Jumat.

Undang-Undang AI UE, yang mengatur berdasarkan tingkat risiko, termasuk peraturan AI paling ketat di dunia. Undang-undang tersebut disahkan dua tahun lalu.

Virkkunen menepis kritik yang menyebut aturan AI blok tersebut sudah ketinggalan zaman.

Terkait: Pimpinan Anthropic mendesak perlambatan pengembangan AI ke laju yang lebih aman

“Kami telah memberlakukan Undang-Undang AI dan undang-undang tersebut mencakup seluruh siklus hidup model-model ini,” katanya, seraya menambahkan bahwa regulator memberikan panduan kepada perusahaan tentang cara mengevaluasi model mereka, dengan mempertimbangkan rekomendasi dari 60 pakar AI.

Pada akhir Agustus, Komisi Eropa meminta informasi dari lebih dari 30 perusahaan AI yang tidak disebutkan namanya, dengan meminta perincian tentang langkah-langkah keselamatan dan keamanan mereka.

Virkkunen mengatakan bahwa ia kini sedang menilai tanggapan-tanggapan tersebut.

Cointelegraph melaporkan pada 13 September bahwa CEO Anthropic Dario Amodei mengatakan dalam sebuah unggahan blog bahwa laju pengembangan AI terlalu cepat dan jika dibiarkan tanpa pengawasan, AI mungkin “melampaui kemampuan kita untuk memahami dan mengendalikan sistem-sistem ini.”

Ia mengatakan bahwa pesatnya kemajuan AI didorong oleh kemampuannya yang terus meningkat untuk membangun generasi AI berikutnya, atau melakukan peningkatan diri secara rekursif.

Majalah: Terlalu besar untuk dihentikan sementara: Bisakah perlambatan AI menjatuhkan perekonomian?