Es práctica común utilizar agentes de inteligencia artificial en los teléfonos celulares y computadoras. Pero además también la utilizamos en los carros, aspiradoras, robots de diagnósticos de enfermedades a través de imágenes y quirúrgicos, ayudaR en la conducción de autos, retocar fotografías y videos, etc. De forma importante, los equipos de científicos médicos utilizaron los algoritmos de inteligencia artificial para diseñar las vacunas contra el covid-19 en 2020-2021 y lograron sintetizar varios tipos de vacunas en solo 11 meses. La inteligencia artificial también está detrás de los filtros de perrito, de pestañas enormes o labios super abultados que se utilizan en plataformas como Instagram.

Mientras que la inteligencia artificial es útil para resolver problemas cotidianos, también puede fallar. Por ejemplo, el filtro de perrito de Instagram a veces no cuadra perfectamente con la cara cuando la movemos rápidamente. Pero ¿qué más da si nos estamos divirtiendo? Si al final no nos gustó la fotografía que estábamos retocando en Photoshop, siempre podemos intentarlo otra vez. En ocasiones el mapa de Waze nos lleva por una ruta que no nos gustó tanto, pero no pasa a mayores.

Si probamos el recomendador de Spotify para encontrar música nueva y no nos gustan los resultados, siempre podemos hacer otra búsqueda. Lo mismo sucede en Facebook o cuando compramos en Amazon. Cuando traducimos un texto, el traductor Deepl nos proporciona varias alternativas.

Sin embargo, la cosa se pone seria cuando el problema a resolver tiene implicaciones que van más allá de una foto mal editada o la compra de un producto que la tienda en línea nos recomendó pero que al final no nos gustó.

Por ejemplo, el programa de los carros Tesla ha tenido problemas de frenado o acelerado incorrecto, según documentó el diario alemán Handelsblatt. También se ha documentado que ChatGPT falla al tratar de relacionar síntomas de enfermedades que son relevantes para proporcionar un diagnóstico de enfermedades pediátricas, según la revista JAMA Pediatrics. Las universidades se han preocupado porque ChatGPT se utiliza para generar tareas y ensayos sin que se pueda detectar que hubo plagio y contenidos de baja calidad.

Lo anterior indica que mientras puede haber varias ventajas al utilizar agentes de inteligencia artificial, los algoritmos aún están lejos de lograr una precisión alta en aplicaciones que pueden poner en riesgo la vida de las personas. Los ejemplos anteriores muestran algunas de las fallas que pueden tener estos agentes con los que convivimos todos los días.

Primero, los algoritmos son frágiles. Como comentamos arriba, el mapa puede llevarnos por rutas extrañas, la conducción automática de los autos puede fallar, al igual que el diagnóstico de enfermedades. Mientras que para aplicaciones no críticas, podemos utilizar inteligencia artificial con precisión baja; para tareas que involucran la seguridad e integridad de las personas, es necesaria una precisión muy alta, que aún no se alcanza. Segundo, los agentes de inteligencia artificial son proclives a olvidar. Cuando al ChatGPT le solicitas información, por ejemplo, que liste las 4 P’s de la mercadotecnia, que son producto, precio, plaza y promoción, en ocasiones las respuestas no incluyen alguna de ellas. Al replicarle que la lista no está completa, su respuesta simplemente es disculparse como si nada hubiera pasado y listar la P faltante o “alucinar” (inventar, en realidad) alguna otra cosa. Es muy probable que esto mismo pueda suceder con la conducción autónoma o la detección de enfermedades. Tercero, los algoritmos de inteligencia artificial no son muchas veces “explicables”, esto es, no es posible saber por qué el algoritmo tomó una decisión en particular; por ejemplo, si el agente de inteligencia artificial de un banco rechazó mi solicitud de un crédito, un asesor humano no sabrá la razón por la que la computadora la rechazó. Los ingenieros están trabajando en algoritmos “explicables” pero esto tomará un tiempo para hacerlos realidad.

Al final del día, toda tecnología trae ventajas a un negocio, pero también tiene limitantes. Los mercadólogos que conocen bien el funcionamiento de los algoritmos de inteligencia artificial están mejor capacitados para evaluar las aplicaciones de negocio que provean de valor al cliente, en lugar de lastimarlos.