Victoria Martínez, Red Hat: “A veces, (implementar IA) es como usar una Ferrari cuando podrías simplemente caminar”

LinkedIn
Twitter
Facebook
WhatsApp
Email
Para la responsable de analítica avanzada e IA, actualmente los clientes buscan soluciones de IA generativa, a pesar de que existen alternativas menos costosas.

(Denver, Estados Unidos) Desde innovaciones de OpenAI hasta desarrollos como Midjourney, estas aplicaciones de inteligencia artificial (IA) cerradas no solo han generado entusiasmo mundial, sino que también han acelerado la competencia entre empresas para desarrollar nuevos modelos. En este contexto, el mensaje principal del congreso anual de Red Hat, la compañía proveedora de software, fue claro: el futuro de la IA será open source.

“Las aplicaciones populares de IA, como OpenAI, son servicios accesibles para todos, pero no se pueden modificar ni contribuir a ellas. No sabes qué ocurre detrás, con qué datos fueron entrenadas, qué decisiones se tomaron o qué técnicas se usaron”, explicó Victoria Martínez, la gerente de desarrollo de negocios en analítica avanzada e IA en Red Hat LATAM, a Simalco durante el Red Hat Summit.

Red Hat, que ha liberado el código fuente de sus productos desde sus inicios, apuesta una vez más por el modelo de desarrollo tecnológico colaborativo y abierto. Este compromiso con la filosofía open source fue reafirmado con el lanzamiento de varios nuevos productos, entre ellos InstructLab, un proyecto de código abierto diseñado para generar aplicaciones de IA generativa.

InstructLab simplifica el proceso de entrenamiento de los modelos de lenguaje de gran tamaño (LLM) mediante la contribución de conocimientos y habilidades de la comunidad, incluso para aquellos que no son programadores.

“El open source permite acceder a los datos, algoritmos o código fuente de manera totalmente libre para tomar ese conocimiento, modificarlo y devolver a la comunidad. No solo elimina la barrera de entrada para usar la tecnología, sino que desarrollas un modelo con una comunidad conformada por una diversidad cultural que sería imposible tener en una sola empresa”, añadió Martínez.

Uno de los ejemplos destacados de IA open source presentado en el congreso fue el de la Agencia de Gobierno Electrónico y Sociedad de la Información y el Conocimiento (AGESIC) de Uruguay. Esta institución, encargada del desarrollo e implementación de estrategias TIC dentro del Estado uruguayo, ha desarrollado un clasificador que evalúa solicitudes de soporte, predice su categoría y subcategoría, y asigna prioridad y responsabilidad de manera automática.

Gracias a este sistema, AGESIC ha mejorado su eficiencia significativamente, logrando una tasa de precisión del 92% y reduciendo el tiempo de procesamiento de una hora a tan solo 10 segundos por solicitud.

Lee también: RedHat Summit: “La IA no será construida sobre un vendedor único. Será open source”

– En el caso de AGESIC, ¿planean liberar el modelo, sin los datos, en open source para que otros puedan utilizarlo?

AGESIC tomó modelos abiertos de las comunidades y realizó modificaciones específicas adaptadas a sus dominios y políticas de asignación. La idea es liberar este modelo para otros organismos gubernamentales, y tenemos un proyecto en marcha para expandirlo más allá de Uruguay, trabajando en la democratización de la IA.

– Hemos hablado mucho sobre la IA generativa. ¿Se están utilizando otras formas de IA?

– La IA generativa es la más llamativa, pero los algoritmos supervisados y no supervisados son los que más crecerán en adopción. Las generativas, que se enfocan en la experiencia del usuario, como lo conversacional y la generación de imágenes, son implementaciones específicas, la IA se puede aplicar a operaciones, reconocimiento de imágenes, forecasting y más.

La IA generativa es el “cascabel del momento”. Todos los clientes quieren usarla, incluso cuando podríamos resolver problemas con otras tecnologías. A veces, es como usar una Ferrari cuando podrías simplemente caminar. Esto resulta ineficiente y costoso para ciertas tareas. Entonces buscamos siempre la solución adecuada sin anteponer la tecnología.

– ¿Cuáles son los casos de uso de IA que serán más adoptados en América Latina?

– Estamos enfocados en la automatización de áreas de experiencia del usuario y atención al cliente, como los call centers, para proporcionar información de manera más accesible y amigable. Además, vemos una creciente automatización interna en los centros de operaciones, lo que permite un monitoreo continuo 24/7, para identificar y abordar los problemas de manera proactiva.

Otro aspecto clave es la automatización del proceso de aseguramiento de calidad de software. Para las empresas de desarrollo de software, la calidad es fundamental, pero suele ser un desafío debido a la tercerización y alta rotación de talento.

Por ello, es crucial implementar una gobernanza efectiva en el proceso de desarrollo. Esto implica definir, por ejemplo, cómo escalar el desarrollo, qué librerías son utilizadas y abordar las brechas de ciberseguridad. Si anteriormente el lanzamiento de una aplicación inteligente tomaba entre 7 a 12 meses en promedio, con estas estrategias, este período puede reducirse a solo tres meses.

– Según estudios, los CIOs están siendo más cautelosos con las inversiones en nuevas tecnologías, revisando cuidadosamente dónde gastar. ¿Has notado este fenómeno?

No, siguen queriendo IA generativa, pero sí hay aspectos inhibidores, como el costo. La “Ferrari” tiene su precio. Hay una mayor consciencia sobre las inversiones en tecnología, lo que me parece coherente. Hubo un momento de boom tecnológico donde se invertía en cualquier idea, tuviera sentido o no, como vimos con el blockchain. Este desplome llevó a una mayor consciencia y prudencia en las inversiones tecnológicas.

– ¿Cómo nos aseguramos de que la inteligencia artificial no tenga sesgos? Podría aprender de los parámetros introducidos por una persona sesgada y, por ejemplo, crear pólizas con IA y cobrar un seguro más caro a una mujer.

Es un desafío importante. Hay un libro titulado Data Feminist que aborda cómo los conjuntos de datos generados hasta ahora han sido predominantemente creados por varones. Un ejemplo clásico es el servicio GenderAPI, que determinaba el género basado en el nombre. Cuando encontraba un nombre femenino con un título como PhD, lo clasificaba erróneamente como masculino, porque los datos históricos sugerían que las personas con títulos solo eran hombres.

Esto es un claro sesgo de género y es precisamente la razón por la que surgen herramientas como TrustyAI de Red Hat. Estas herramientas ayudan a detectar cuándo un algoritmo no está siendo imparcial. Por ejemplo, si crear un modelo para otorgar crédito se incluyen datasets que impactan negativamente, estas herramientas identifican esos parámetros problemáticos. Así, el científico de datos puede ajustar el modelo para eliminar los sesgos y asegurar decisiones más justas y equitativas.

La combinación de la IA con estas herramientas de auditoría y corrección es esencial para crear sistemas más justos y reducir los sesgos inherentes en los datos históricos.

*La periodista viajó por invitación de Red Hat

LinkedIn
Twitter
Facebook
WhatsApp
Email

Noticias relacionadas

Translate »