Vigilar los algoritmos
Europa creó creó un centro de transparencia algorítmica para exigir estándares a las grandes plataformas tecnológicas, mientras algunos referentes mundiales se preguntan si sobreviviremos a la IA.
Buenos días, si estás aquí es porque quisiste conocer más de los debates que vienen a futuro y generarán Ruido. Somos una Newsletter de Mala Espina, medio de fact checking chileno.
Hay un debate que todavía no está maduro en nuestro rincón del mundo (Sudamérica), pero que en otras latitudes ya va un par de pasos adelantados.
Hace unos días se realizó el lanzamiento del Centro Europeo para la Transparencia Algorítimica.
En palabras más sencillas, un proyecto que busca abrir las llamadas cajas negras de los algoritmos y que para gran parte de la humanidad resultan ser un misterio.
El centro tendrá como labor supervisar e investigar si es que las grandes plataformas tecnológicas (con más de 45 millones de usuarios) cumplen con la legislación europea y así garantizar un buen funcionamiento y un mayor control sobre contenidos ilegales en redes sociales.
En concreto, mayor transparencia, como el nombre del nuevo organismo lo indica.
Según explicó el medio español de fact checking Maldita, miembro de la International Fact Checking Network, al igual que Mala Espina, citando palabras de Renate Nikolay durante una sesión para periodistas en el ECAT, “hay que mirar a los riesgos sistémicos porque el impacto de los algoritmos se ha vuelto algo público y social. Hablamos del efecto en la salud mental y también de desinformación”.
Uno de los focos de preocupación entre expertos del área es la sobreexposición a sesgos, un tema del que hablaremos en próximas entregas a raíz de aplicaciones que realizan “asesorías electorales”.
Europa planea revisar cada seis meses a las grandes empresas del rubro y para eso también necesitará personal.
Por ello es que desde fines del año pasado se abrieron vacantes para trabajar en el nuevo organismo que vigilará los algoritmos.
¿Sobreviviremos a la IA?
Durante los últimos el escritor best seller israelí Yuval Noah Harari dio una entrevista a The Telegraph, donde lanzó un pronóstico que puede sonar aterrador: “No sé si los humanos podrán sobrevivir a la Inteligencia Artificial”.
Harari, quien fue firmante de una carta que alertaba sobre lo rápidos avances de la IA junto a un centenar de especialistas, planteó que por primera vez hemos inventado algo que nos quita poder.
Así, los algoritmos y la IA parecen para algunos una gran amenaza en la era actual.
El profesor de la Universidad de California, Stuart Russell, lo viene planteando ya hace años. “Si construimos la IA para optimizar un objetivo fijo dado por nosotros, ellas (las máquinas) serán como psicópatas, persiguiendo ese objetivo y siendo completamente ajenas a todo lo demás, incluso si les pedimos que se detengan”.
Ahora la pregunta es: ¿sobreviviremos a la era de la IA?