La Comisión Europea ha puesto en marcha una nueva unidad de investigación que investigará el impacto de los algoritmos creados y utilizados por importantes plataformas en línea y motores de búsqueda como Facebook y Google.

La unidad de investigación, denominada Centro Europeo para la Transparencia Algorítmica (ECAT), se puso en marcha el 18 de abril y ayudará a la Comisión a identificar y abordar cualquier riesgo potencial que planteen estas plataformas.

ECAT se integrará en el actual Centro Común de Investigación (JRC) de la Unión Europea, que realiza investigaciones sobre una amplia gama de temas, incluida la Inteligencia Artificial (IA).

  

El equipo estará formado por “científicos de datos, expertos en inteligencia artificial, científicos sociales y expertos legales” que analizarán y evaluarán los algoritmos respaldados por inteligencia artificial utilizados por las grandes empresas tecnológicas.

Los programas basados ​​en IA se crean utilizando una serie de algoritmos complejos, lo que significa que ECAT también analizará los algoritmos que sustentan los chatbots de IA, como ChatGPT de OpenAI, que algunos creen que eventualmente podrían reemplazar a los motores de búsqueda.

 

En su sitio web, la Comisión afirma que ECAT llevará a cabo auditorías algorítmicas de rendición de cuentas y transparencia según lo exige la Ley de Servicios Digitales (DSA), un conjunto de normas de la Unión Europea que entrarán en vigor a partir del 16 de noviembre de 2022.

Según el comisario europeo de Mercado Interior, Thierry Breton, la ECAT “mirará bajo el capó” de los grandes motores de búsqueda y plataformas en línea para “ver cómo funcionan sus algoritmos y cómo contribuyen a la difusión de contenidos ilegales y nocivos”.

Casi una docena de políticos de la UE pidieron el desarrollo “seguro” de la IA en una carta abierta firmada el 16 de abril.

Los legisladores pidieron al presidente de Estados Unidos, Joe Biden, y a la presidenta de la Comisión Europea, Ursula von der Leyen, que convoquen una cumbre sobre IA y acuerden un conjunto de principios rectores para el desarrollo, control y despliegue de la tecnología.

El empresario tecnológico Elon Musk también tuvo problemas con el desarrollo de la IA, argumentando en una entrevista con Fox News el 17 de abril que los chatbots de IA como ChatGPT tienen un sesgo de izquierda y dijo que estaba desarrollando una alternativa llamada "TruthGPT".