Hemos observado que estudiantes y educadores están utilizando activamente diversos mecanismos y herramientas para la creación de contenido, incluyendo herramientas de inteligencia artificial.
Las herramientas de inteligencia artificial se han integrado en el proceso educativo, aunque su aparición es relativamente reciente. Los estudiantes y docentes las emplean debido a su gran eficiencia, rapidez y acceso a una cantidad significativa de información. Sin embargo, existe cierto riesgo asociado con el uso de estas herramientas de inteligencia artificial..
Nuestra empresa ha decidido crear un módulo que satisfaga las necesidades de instituciones educativas, organizaciones y editoriales. Una institución educativa, al contar con una herramienta efectiva para contrarrestar los posibles abusos derivados del uso de ChatGPT, Bard y otras herramientas de inteligencia artificial, podrá proteger mejor a los estudiantes de violaciones a los principios de integridad académica y salvaguardar los estándares de calidad educativa.
El informe de contenido generado por inteligencia artificial se integra dentro del informe interactivo de similitud, lo cual facilita enormemente su análisis. Además, resulta conveniente evaluar el documento según dos criterios simultáneamente y dejar comentarios relacionados tanto con el uso de inteligencia artificial como con el plagio.
Al hacer clic en la sección Detalles dentro de la búsqueda de contenido de inteligencia artificial, podrá abrir el segundo informe.
Nuestro informe rastrea tanto la proporción de probabilidad de texto generado por IA como la probabilidad específica para cada fragmento de texto, destacando los fragmentos con colores. Cada color representa la probabilidad de que el texto haya sido escrito por una IA o por un ser humano. El informe muestra una lista de fragmentos junto con el Coeficiente de Probabilidad de IA correspondiente a cada uno.
Si el texto está en verde, la probabilidad de que haya sido escrito por una máquina es mínima; si está en rojo, la probabilidad de que haya sido escrito por una máquina es máxima.
Estos colores no pueden modificarse manualmente ni ser aceptados o rechazados. La probabilidad de que el texto sea generado por una máquina es verificada por módulos y algoritmos que representan la tecnología más avanzada disponible en este momento.
El módulo utiliza aprendizaje supervisado, aplicando varios modelos, incluido un modelo BERT modificado, para predecir si el contenido es artificial o original. La inteligencia artificial fue entrenada con millones de textos generados tanto por IA como por autores humanos, aprendiendo a diferenciar entre ambos. Después de cada sesión de entrenamiento, se emplea un amplio conjunto de datos de prueba para evaluar si el modelo actualizado supone una mejora.
Análisis lingüístico
Dado que el contenido creado por IA se genera a partir de plantillas, es común observar frases repetitivas, sintaxis extraña o la ausencia de matices característicos de la escritura humana. Estas peculiaridades facilitan la identificación de contenido generado por IA.
Análisis estadístico
Muchas plataformas emplean modelos estadísticos para evaluar la complejidad del texto, la estructura de las oraciones y el uso del vocabulario. Los textos generados por IA suelen presentar una estructura y longitud de oraciones uniformes, lo que los distingue de la escritura humana.
Modelos de aprendizaje automático
Los modelos de aprendizaje automático (por ejemplo, Originality.AI) están diseñados para diferenciar entre textos humanos y generados por IA. Utilizan diversas características del texto, incluidas las mencionadas anteriormente, para identificar patrones característicos que indican que el texto fue escrito por inteligencia artificial.
El módulo tiene una precisión superior al 94% en la detección de textos generados por GPT-3, GPT-3.5, GPT-4.0, GPT-Plus, GPT-Search y ChatGPT. Sin embargo, no es perfecto, y siempre existe la posibilidad de errores.
Es mucho más adecuado, correcto y seguro analizar una serie de documentos de un autor en lugar de basar una decisión en un único documento.
La longitud del documento importa: cuanto más extenso sea el documento, mayor será la precisión del resultado.
El valor recomendado para el Coeficiente de Probabilidad de Contenido Generado por IA (AIPC) es superior al 60%. Si el AIPC supera el 80% y el Coeficiente de Similitud (SC) está por debajo del 20%, el documento debe ser analizado cuidadosamente.