Módulo de búsqueda de contenidos AI

Hemos observado que estudiantes y educadores utilizan activamente diversos mecanismos y herramientas para la creación de contenidos, incluidas las herramientas de IA.

Las herramientas de IA han pasado a formar parte del proceso educativo, aunque su aparición es reciente. Estudiantes y profesores las utilizan porque son muy eficaces, rápidas y tienen acceso a cantidades importantes de información. Sin embargo, existe cierto riesgo asociado al uso de herramientas de IA.

Nuestra empresa decidió crear un módulo que satisficiera las necesidades de instituciones educativas, empresas y editoriales. Una institución educativa, al disponer de una herramienta eficaz para contrarrestar los abusos que puedan surgir al utilizar ChatGPT, Bard y otras herramientas de IA, podrá proteger mejor a los estudiantes de la violación de los principios de integridad académica y proteger los estándares de calidad de la educación.

El informe de contenido de IA se coloca dentro del informe interactivo de similitud, que es muy conveniente para analizar. También es conveniente evaluar el documento según dos criterios a la vez y dejar comentarios relacionados tanto con la IA como con el plagio.

Haciendo clic en Detalles en la sección Búsqueda de contenido AI, podrá abrir el segundo informe.

Colores en el Informe de Probabilidad AI

Nuestro informe traza tanto el ratio de probabilidad de IA como la probabilidad de IA para cada fragmento de texto coloreando los fragmentos. Cada color representa la probabilidad de que el texto haya sido escrito por una IA o por un humano. El informe muestra una lista de fragmentos y el coeficiente de probabilidad de IA para cada fragmento.

Si el texto es verde, la probabilidad de que esté escrito a máquina es mínima, si es rojo, la probabilidad de que esté escrito a máquina es máxima.
Estos colores no pueden cambiarse manualmente, ni aceptarse o rechazarse. La probabilidad de que el texto esté escrito a máquina se comprueba mediante los módulos y algoritmos que sean mejores en ese momento.

¿Qué significan los coeficientes de probabilidad de IA?

El coeficiente de probabilidad de contenido AI es una predicción de la probabilidad de que el texto haya sido generado por AI o escrito por un humano. El coeficiente no es una medida de la proporción entre el texto generado por IA y el contenido original de un documento.

Si el autor de un documento tiene un índice de préstamo bajo pero un coeficiente de IA alto, es probable que se trate de una respuesta falsa del sistema, por lo que el documento debe analizarse en detalle.

¿Cómo funciona la detección de IA?

El módulo aplicó el aprendizaje supervisado utilizando varios modelos, incluido un modelo BERT modificado, para predecir si el contenido es artificial u original.

A la inteligencia artificial se le presentaron millones de textos de contenido tanto artificial como original y luego se la entrenó para determinar la diferencia entre ambos. Después de cada sesión de entrenamiento, se utiliza un amplio conjunto de datos de prueba para evaluar si el nuevo modelo supone una mejora o no.

Es importante recordarlo:

• El módulo tiene una precisión superior al 94% en la búsqueda de texto generado por GPT-3, GPT-3.5 y ChatGPT. Sin embargo, no es perfecto, y siempre es posible que se produzcan errores.
• Es mucho mejor, más correcto y más seguro analizar la serie de documentos del autor que tomar una decisión sobre un único documento.
• La longitud del documento importa: cuanto más largo sea el documento, más preciso será el resultado.
• El valor recomendable de un Coeficiente de Probabilidad IA es superior al 60%. Si el CPIA es superior al 80% y el SC es inferior al 20%, el documento debe analizarse detenidamente.