La inteligencia artificial pifia y avergüenza a IBM y Amazon: "Este producto es un pedazo de mierda"
Por Juan Marcos Bouthemy, publicado por Clarín.
La inteligencia artificial avanza a toda máquina, pero su aplicación irrestricta genera preocupación sobre distintos asuntos de la vida social.
Aún con notables aciertos y usos diversos, la creciente capacidad de las computadoras de aprender en el procesamiento de datos tiene que ser considerada también por sus errores.
Esta semana, dos noticias dieron indicios sobre la necesidad de implementar con extremo cuidado las soluciones que hoy puede brindar la inteligencia artificial tanto en la gestión de la salud como de la seguridad.
Se trató nada menos que de los sistemas de dos gigantes de la tecnología, IBM y Amazon. Pero ni los productos de estas potencias se salvan de críticas demoledoras y campañas para su regulación.
La supercomputadora y el cáncer
Watson es el motor de inteligencia artificial de IBM. Utilizando tecnologías de aprendizaje informático, esta suerte se supercomputadora de aplica en variedad de negocios e investigaciones, en todo tipo de áreas e industrias.
Lo que hace Watson es, ante una pregunta, analizar datos, aprender de ellos automáticamente y ofrecer soluciones en el trabajo.
Para eso, estudia la estructura de lo que se le cuestiona y usa millones de reglas lógicas para dar la mejor respuesta. No por nada lleva el nombre del compañero de Sherlock Holmes.
Su aplicación va desde la energía a las finanzas, de los recursos humanos a la cocina. Pero este miércoles se reveló una deficiencia de Watson en el campo de la salud.
Los expertos médicos que estaban trabajando con IBM descubrieron hace un año los errores que estaba cometiendo la supercomputadora a la hora de analizar diagnósticos oncológicos y ofrecer tratamientos.
Según documentos a los que accedió en exclusiva el sitio especializado en salud Stat, los expertos habían descubierto "múltiples ejemplos de recomendaciones de tratamientos inseguros e incorrectos" en el sistema.
Uno de los casos fue el de un hombre de 65 años que padecía cáncer de pulmón y hemorragias. Watson sugirió que se le recetara quimioterapia y Bevacizumab, la droga de un medicamento (en Argentina, lo comercializa Roche) cuyo prospecto advierte justamente que aumenta el riesgo de hemorragia.
No está claro si ese ejemplo fue el de un paciente real o si fue parte de una evaluación hipotética. Pero los expertos criticaron ampliamente el sistema oncológico de Watson y afirmaron que solía hacer recomendaciones "frecuentemente inexactas", según los documentos a los que accedió Stat.

