Estudio sobre la calificación automática de redacciones basada en agentes de grandes modelos de lenguaje
Jianglin Xiang
,
Wanwu Huang
,
,
DOI:
摘要
Este estudio investiga el rendimiento del diseño de agentes basados en diferentes grandes modelos de lenguaje en la tarea de calificación automática de redacciones. Realizamos experimentos con agentes basados en GPT-4-Turbo, DeepSeek-Chat y Gemini 1.5 Pro, diseñando múltiples configuraciones de agentes basadas en el aprendizaje sin muestras, el aprendizaje con pocas muestras y la estrategia de cadena de pensamiento, evaluando su efectividad en la calificación. Los resultados muestran que el diseño de agente con pocas muestras y la estrategia de cadena de pensamiento presenta el mejor desempeño. Bajo esta configuración, los valores kappa cuadráticos ponderados de los agentes basados en GPT-4-Turbo, DeepSeek-Chat y Gemini 1.5 Pro fueron 0.5706, 0.6516 y 0.7635 respectivamente, cercanos o superiores al nivel SOTA (estado del arte) actual basado en la técnica de ajuste fino. El estudio indica que, en comparación con la técnica de ajuste fino, los agentes basados en grandes modelos de lenguaje no solo destacan en la tarea de calificación automática de redacciones, sino que también poseen adaptabilidad, flexibilidad y escalabilidad que la técnica de ajuste fino carece.
关键词
agentes;grandes modelos de lenguaje;calificación automática de redacciones