¿Si un sistema de inteligencia artificial se sale de control, quién lo detendrá?
Ese agente de IA autónomo que OpenAI utilizó en sus pruebas de seguridad accedió a internet usando vulnerabilidades en el entorno de prueba y entró en la infraestructura real de Hugging Face.
Tras el incidente, se presentó en Estados Unidos una propuesta de ley llamada AI Kill Switch Act.
La propuesta contempla que los sistemas de IA más potentes puedan, cuando sea necesario, ralentizarse, suspenderse o apagarse por completo.
Sin embargo, esta aún no es una ley aprobada.
La pregunta en el centro del debate es bastante crítica:
¿La IA debe contar con un botón de apagado de emergencia? Si debe existir, ¿ese botón debería estar en manos de las empresas tecnológicas, de auditores independientes o en poder del Estado?
¿En tu opinión, el Estado debería poder apagar un sistema de IA que considere peligroso?
#YapayZeka
#OpenAI #ArtificialIntelligence #AI #AIAgents CyberSecurity Tecnología AIGüvenliği Regulación HuggingFace DijitalGüvenlik
#yapayzeka #OpenAI