Según un estudio reciente realizado por la Universidad de Bath y la Technische Universität Darmstadt en Alemania, los modelos lingüísticos de gran tamaño (LLM) como ChatGPT no representan una amenaza existencial para la humanidad.
Aunque estos modelos son extremadamente eficientes en seguir instrucciones y generar un lenguaje sofisticado, no poseen la capacidad de aprender nuevas habilidades de manera autónoma o desarrollar razonamientos complejos.
La investigación destaca que los LLM permanecen bajo control y son predecibles, aunque existe el riesgo de un uso indebido. El equipo de investigación realizó miles de experimentos para evaluar la capacidad de los LLM de enfrentar tareas nunca antes encontradas.
Los resultados demostraron que las habilidades de estos modelos se basan en una combinación de capacidad para seguir instrucciones a través del aprendizaje en contexto (ICL), memoria y competencia lingüística, confirmando tanto las potencialidades como las limitaciones de estos modelos. Durante la 62ª Reunión Anual de la Association for Computational Linguistics (ACL 2024), se subrayó que, con el aumento del tamaño de los conjuntos de datos utilizados para el entrenamiento, estos modelos serán cada vez más capaces de generar un lenguaje sofisticado y mejorar en la ejecución de indicaciones detalladas y explícitas.
Sin embargo, es altamente improbable que adquieran habilidades en el razonamiento complejo. El Dr. Harish Tayyar Madabushi observó que el miedo generalizado respecto a estas tecnologías está obstaculizando su adopción y desarrollo a gran escala, desviando la atención de problemas realmente significativos, como la producción de noticias falsas o el aumento del riesgo de fraudes. La Profesora Iryna Gurevych añadió que, aunque los resultados del estudio no sugieren que la inteligencia artificial no presente ningún riesgo, demuestran a través de pruebas concretas que las preocupaciones relativas a la aparición espontánea de capacidades cognitivas complejas en los LLM son infundadas.
Por lo tanto, las investigaciones futuras deberían centrarse en otros riesgos asociados con estos modelos. En el informe final presentado en la conferencia ACL 2024, se reitera la necesidad de que los usuarios finales especifiquen claramente lo que requieren de los modelos LLM, proporcionando ejemplos donde sea posible, excepto en las tareas más simples.
¡Sigue nuestro feed!
