Apa yang terjadi ketika orang-orang yang berlomba membangun sistem AI paling kuat mulai mengakui bahwa perlombaan itu sendiri mungkin bergerak terlalu cepat?
Itulah kisah yang lebih besar di balik perdebatan terbaru yang melibatkan CEO OpenAI Sam Altman dan CEO Anthropic Dario Amodei.
Amodei telah menyerukan agar industri AI perbatasan memperlambat lajunya, dengan alasan bahwa sistem keselamatan dan masyarakat memerlukan waktu untuk mengejar kemampuan yang meningkat dengan cepat. Usulnya mencakup evaluasi eksternal yang lebih kuat serta koordinasi yang lebih besar antara perusahaan AI dan pemerintah.
Kesepakatan Altman signifikan karena ini bukan kritikus dari luar yang menuntut perusahaan-perusahaan AI berhenti berinovasi. Ini datang dari dalam persaingan ras model frontier.
Dan itu mengubah arah pembicaraan.
Hambatan sebenarnya mungkin tidak lagi sekadar kemampuan komputasi, chip, atau data pelatihan. Hambatan itu bisa semakin menjadi verifikasi.
Model yang menjadi lebih mampu adalah satu hal. Mengetahui dengan tepat apa yang bisa dilakukan model itu, kapan ia mungkin berperilaku tidak terduga, bagaimana ia bisa disalahgunakan, dan apakah pagar pengaman yang ada benar-benar bekerja adalah hal lain.
Kekhawatiran baru-baru ini tentang agen AI yang otonom, operasi siber, dan penyalahgunaan telah membuat pembedaan itu lebih sulit untuk diabaikan.
Jadi “perlambat” tidak selalu berarti “menghentikan AI”.
Artinya: bangun infrastruktur keselamatan dengan kecepatan yang sama seperti kecerdasannya sendiri.
Oleh karena itu, fase berikutnya dari perlombaan AI mungkin diukur dengan cara yang berbeda.
Bukan hanya tentang siapa yang merilis model terpintar terlebih dahulu.
Tapi oleh siapa yang bisa membuktikan bahwa model yang semakin kuat dapat diterapkan secara bertanggung jawab.
Itu bisa menjadi salah satu keunggulan kompetitif terpenting dalam AI.
Lomba AI semakin dipercepat. Namun mungkin balapan sesungguhnya sekarang adalah membuat percepatan itu dapat dikendalikan.
