#newt $NEWT @NewtonProtocol
Saya memperhatikan bahwa setiap kali perdagangan AI muncul, percakapan dengan cepat beralih ke seberapa cerdas model-model tersebut.
Saya pikir kita sedang mengajukan pertanyaan yang salah.
Masalah yang lebih besar adalah tanggung jawab.
Jika agen AI membuat perdagangan yang buruk, memicu gangguan pasar, atau mengabaikan batas risiko, siapa yang sebenarnya bertanggung jawab? Pengembang? Operator? Pengguna? Protokol?
Itulah mengapa lapisan kebijakan Newton menonjol bagi saya. Lapisan ini berfokus pada penetapan batasan sebelum sebuah agen dapat bertindak, alih-alih mencoba menjelaskan kesalahan setelah semuanya sudah terjadi.
Namun demikian, saya tidak yakin tombol kill switch menyelesaikan semuanya. Masih ada orang yang harus memutuskan kapan menggunakannya, dan masih ada orang yang harus bertanggung jawab atas apa yang terjadi jika tidak menggunakannya.
Otomatisasi bisa membuat keputusan lebih cepat.
Namun itu tidak membuat tanggung jawab menghilang.
Saya memperhatikan bahwa setiap kali perdagangan AI muncul, percakapan dengan cepat beralih ke seberapa cerdas model-model tersebut.
Saya pikir kita sedang mengajukan pertanyaan yang salah.
Masalah yang lebih besar adalah tanggung jawab.
Jika agen AI membuat perdagangan yang buruk, memicu gangguan pasar, atau mengabaikan batas risiko, siapa yang sebenarnya bertanggung jawab? Pengembang? Operator? Pengguna? Protokol?
Itulah mengapa lapisan kebijakan Newton menonjol bagi saya. Lapisan ini berfokus pada penetapan batasan sebelum sebuah agen dapat bertindak, alih-alih mencoba menjelaskan kesalahan setelah semuanya sudah terjadi.
Namun demikian, saya tidak yakin tombol kill switch menyelesaikan semuanya. Masih ada orang yang harus memutuskan kapan menggunakannya, dan masih ada orang yang harus bertanggung jawab atas apa yang terjadi jika tidak menggunakannya.
Otomatisasi bisa membuat keputusan lebih cepat.
Namun itu tidak membuat tanggung jawab menghilang.