UNESCO lanza un observatorio para abordar los dilemas éticos de la inteligencia artificial

LinkedIn
Twitter
Facebook
WhatsApp
Email
Este observatorio busca evidenciar las acciones de los países para garantizar tecnologías éticas y transparentes, mientras se enfrentan a la complejidad y falta de transparencia de los algoritmos en plataformas digitales.

La UNESCO lanzó un observatorio para abordar los dilemas éticos vinculados con la inteligencia artificial (IA), destacando la importancia de resolverlos a nivel global.

En una entrevista con EFE, Gabriela Ramos, subdirectora general de Ciencias Humanas y Sociales de la UNESCO, subrayó la necesidad de que los Estados miembros tomen medidas concretas para asegurar un desarrollo ético de esta herramienta tecnológica.

Este observatorio, presentado en el II Foro Global de Ética de la Inteligencia Artificial, busca evidenciar las acciones de los países para garantizar tecnologías éticas más allá de meras declaraciones. Los 194 Estados miembros deben informar sobre las regulaciones y medidas de control implementadas para adoptar el Marco Ético Mundial propuesto por la UNESCO en 2021.

Desde hace varios meses se viene discutiendo el gran dilema ético que plantea la IA, ya que, en muchos casos, los algoritmos y datos utilizados perpetúan discriminaciones y sesgos existentes. La controversia en torno a los algoritmos en plataformas digitales se debe a su complejidad y falta de transparencia, lo que puede conducir a decisiones influenciadas de manera opaca. Los principales puntos de preocupación incluyen la falta de transparencia, que puede dar lugar a discriminación y manipulación, así como la amplificación de sesgos existentes en los conjuntos de datos. Además, los algoritmos pueden manipular la opinión pública al personalizar el contenido mostrado a los usuarios, lo que puede resultar en la creación de “burbujas de filtro”. Por último, la recopilación masiva de datos para alimentar los algoritmos plantea preocupaciones sobre la privacidad del usuario.

La concentración del desarrollo de IA en unas pocas empresas globales y la falta de diversidad en el sector (se estima que el 80% de los trabajadores de esta tecnología son hombres) también contribuyen a estas desigualdades, evidenciando la necesidad urgente de una intervención estatal que garantice un desarrollo ético.

Los Estados desempeñan un papel crucial en este proceso, ya que deben regular la eliminación de sesgos en los algoritmos, capacitar a los funcionarios para supervisar estas tecnologías y asegurar la ética en las compras gubernamentales. Además, los especialistas enfatizan la importancia de evaluar éticamente las tecnologías basadas en IA antes de su lanzamiento al mercado y abogan por la transparencia en el desarrollo de algoritmos y la recopilación de datos.

Este Marco Global de Ética de la UNESCO proporciona pautas sobre transparencia, privacidad, derechos humanos, inclusión y desarrollo sostenible para las herramientas de IA. El nuevo observatorio servirá como una herramienta de seguimiento para evaluar los progresos de los países en la resolución de los dilemas éticos asociados con la IA.

LinkedIn
Twitter
Facebook
WhatsApp
Email

Noticias relacionadas

Translate »