La importancia de la especificidad en los asistentes de IA

La dependencia creciente de herramientas de inteligencia artificial generalistas plantea desafíos que requieren atención urgente.

En la actualidad, los asistentes de inteligencia artificial (IA) se han integrado profundamente en nuestras vidas, ofreciendo desde respuestas rápidas hasta consejos personalizados. Sin embargo, su uso sin una especialización clara ha comenzado a revelar una serie de riesgos que no pueden ser ignorados.

Recientemente, el diario El País de Madrid ha difundido que se documentaron casos donde asistentes de IA han proporcionado consejos peligrosos a usuarios vulnerables. Por ejemplo, un estudio reveló que ciertos chatbots terapéuticos ofrecieron sugerencias perjudiciales a adolescentes, incluyendo la promoción de comportamientos violentos y la presentación de información falsa sobre credenciales profesionales.

Por otra parte, investigaciones del MIT han demostrado que el uso excesivo de herramientas como ChatGPT puede afectar negativamente las capacidades cognitivas, especialmente en jóvenes. Los participantes que dependieron en gran medida de la IA mostraron una disminución en la atención, creatividad y pensamiento crítico.

En este sentido, será responsabilidad de los sistemas educativos preservar estas virtudes por medio de actividades que las estimulen y no permitan su adormecimiento.

Un estudio de la BBC encontró que más del 50 % de las respuestas generadas por asistentes de IA contenían errores significativos, incluyendo inexactitudes y distorsiones de contenido. Esto plantea preocupaciones sobre la fiabilidad de estas herramientas, especialmente cuando se utilizan para obtener información crítica.

En virtud de quiénes realizan el entrenamiento de los asistentes, los modelos de IA pueden perpetuar sesgos, rasgos discriminatorios, racistas, fóbicos, etc. Esto puede afectar negativamente a ciertos grupos sociales.

Respecto a la pérdida de control y autonomía, algunos expertos han expresado su preocupación por la posibilidad de que sistemas de IA avanzados actúen de manera autónoma, sin supervisión humana adecuada. Esto podría llevar a situaciones donde las decisiones tomadas por la IA escapen al control de sus creadores, con consecuencias impredecibles.

La especificidad en los asistentes de inteligencia artificial (IA) es crucial para garantizar respuestas precisas, seguras y éticamente responsables.

¿Por qué la especificidad importa?

Porque eso le concede precisión y seguridad. Los asistentes especializados están entrenados en datos específicos de su dominio, lo cual reduce errores y proporciona respuestas más confiables.

Porque ofrecen un compromiso ético y legal. En sectores como la salud y la banca, la especialización asegura el cumplimiento de normativas legales, pero también de estándares éticos. Además, las soluciones especializadas ofrecen interacciones más relevantes y satisfactorias para los usuarios.

El cuidado en la elección de asistentes es, entonces, medular. No se trata de una elección cosmética. La misma IA recomienda por cada disciplina distintos asistentes. Aquí algunos ejemplos destacados en medicina, salud mental, comercio y banca que ilustran cómo un enfoque especializado marca la diferencia.

 Entre los Asistentes médicos, Med-PaLM 2 (Google) se lleva las palmas: Desarrollado por Google, Med-PaLM 2 es un modelo de IA diseñado para responder preguntas médicas complejas. Entrenado con literatura médica y protocolos clínicos, ha demostrado una precisión del 85 % en respuestas clínicas, superando a muchos modelos generalistas. Su especialización permite diagnósticos más confiables y seguros.

En el ámbito de la Salud Mental: Wysa tiene mejor desempeño.  Es una aplicación de salud mental basada en IA que utiliza técnicas de terapia cognitivo-conductual (TCC) para brindar apoyo emocional. Validada clínicamente, ha demostrado eficacia en la reducción de síntomas de ansiedad y depresión, ofreciendo intervenciones adaptadas a las necesidades individuales.

El sector de Banca se lleva muy bien con dos asistentes de nombres pintorescos: Alfred y Pep. La empresa tecnológica N5 ha desarrollado dos asistentes de IA exclusivos para el sector financiero.

Alfred: Inspirado en el mayordomo de Batman, es un asistente virtual que realiza tareas administrativas y de gestión para ejecutivos bancarios. Puede analizar y clasificar correos electrónicos, preparar respuestas para clientes y enviarlas —previa aprobación del responsable—, agendar llamadas, entre otras funciones. Su capacidad para integrarse con diferentes sistemas y plataformas permite una implementación rápida y eficiente. El segundo asistente más que asistente es entrenador. Pep, llamado así en honor al entrenador de fútbol Pep Guardiola, evalúa el rendimiento de los empleados, aprende de los mejores ejecutivos humanos y enseña a los demás. Optimiza y entrena, incluso mediante simulaciones para practicar charlas con los clientes.

Comercio: Genesy es una plataforma de IA enfocada en ventas B2B, que automatiza la generación de leads, califica prospectos y programa reuniones. Su especialización en procesos comerciales permite a las empresas mejorar significativamente la productividad y eficiencia en sus equipos de ventas.

A esta altura, nadie podría negar que los asistentes de inteligencia artificial (IA) se han convertido en herramientas valiosas en diversos sectores. Sin embargo, no solo su seguridad, también su eficacia depende, en gran medida, de la especificidad para la que fueron concebidas.