Los modelos de Lenguaje de Gran Tamaño (LLM en inglés), es decir, sistemas de Inteligencia Artificial que emplean técnicas de aprendizaje automático para comprender y generar lenguaje, son usados como base recurrente a la generación de modelos de IA en todos los sectores. Ahora también en la regulación de medicamentos: La Agencia Europea del Medicamento (EMA) lanza el mensaje de que “es necesario aprovechar la IA en la regulación de medicamentos el uso de LLM.
Recientemente el regulador europeo y los Jefes de Agencias de Medicamentos (HMA) han publicado principios y recomendaciones de alto nivel para todo el personal de la red europea de regulación de medicamentos (EMRN) utilizando estos sistema.
Los LLM son una categoría de IA generativa, cuyas aplicaciones “pueden ayudar significativamente a los reguladores de medicamentos en sus tareas y procesos. Ya sea que se utilicen para consultar la extensa documentación que reciben habitualmente los reguladores, para automatizar procesos de extracción de conocimientos/datos o como asistentes virtuales de IA en tareas administrativas cotidianas, los LLM tienen un enorme potencial transformador”, aseguran.
Sin embargo, los LLM también presentan desafíos, como la variabilidad en los resultados, devolución de respuestas irrelevantes o inexactas (las llamadas alucinaciones) y posibles riesgos de seguridad de los datos. El propósito de los principios rectores es “generar comprensión sobre las capacidades y limitaciones de estas aplicaciones entre el personal de las agencias reguladoras de toda la UE para que puedan aprovechar el potencial de los LLM de manera efectiva y evitar trampas y riesgos”.
Los principios rectores cubren varios aspectos del uso de LLM, desde garantizar la entrada segura de datos hasta aplicar el pensamiento crítico y verificar los resultados, hasta saber a quién consultar cuando surjan inquietudes. El uso responsable de los LLM requiere familiaridad con las herramientas. Se enfatiza la importancia del aprendizaje continuo para mantenerse al día con un campo que cambia rápidamente.
Además, los principios alientan a las agencias reguladoras a hacer esfuerzos para apoyar a su personal en el uso de LLM. Esto incluye definir la gobernanza sobre el uso de LLM, especificar casos de uso permitidos, brindar capacitación y monitorear riesgos.
Los principios rectores son uno de los resultados del plan de trabajo plurianual sobre IA hasta 2028 de la EMA y los Jefes de Agencias de Medicamentos (HMA). Este plan de trabajo guía a la EMA y a la EMRN en el uso de la IA, maximizando los beneficios mientras gestiona los riesgos y facilita el intercambio de información.
Los principios rectores son un documento vivo que se actualizará periódicamente y la EMA lo presentará a la red en un seminario web el 13 de septiembre de 2024.
