Detección de contenido realizado con IA
From Wikipedia, the free encyclopedia
Los algoritmos de detección de contenido realizado por inteligencia artificial (IA) pretenden detectar si un texto, o incluso una imagen de vídeo o un audio han sido producidos por seres humanos o por inteligencia artificial.
A partir de 2023, han salido al mercado diferentes aplicaciones que pretenden detectar si el texto ha sido creado por inteligencia artificial y, de hecho, se utilizan en los colegios y universidades para poder detectar los trabajos no originales de los estudiantes. Este uso es controvertido, ya que las aplicaciones utilizadas no son fiables y pueden ser utilizadas incorrectamente por profesores y catedráticos.[1]
En el caso de documentos de texto, esto se hace habitualmente para prevenir el supuesto plagio, detectando la repetición de palabras como señales reveladoras del hecho que un texto ha sido generado por IA (incluyendo las alucinaciones de IA ). A menudo son utilizados por los profesores que investigan a sus alumnos, normalmente de manera ad hoc. Tras el lanzamiento de ChatGPT y programas similares de generación de textos de IA, muchos centros educativos han dictado políticas contra el uso de la IA por parte de los estudiantes.[2] Los programas de detección de texto de IA también los utilizan los que evalúan los solicitantes de trabajo, así como los motores de búsqueda online.[3]
Los detectores actuales no son fiables y han marcado incorrectamente trabajo de humanos como originario de la IA[4][5][6] mientras no detectan el trabajo generado por la IA en otros casos.[7] La revista MIT Technology Review dijo que la tecnología "luchó por recoger texto generado por ChatGPT que había sido ligeramente reordenado por los humanos y ofuscado por una herramienta de parafraseo".[8] También se ha demostrado que, engeneral, los programas de detección de texto hecho por la IA discriminan a los hablantes no nativos de inglés.[3]
En mayo de 2023, un profesor de Texas University–Commerce utilizó ChatGPT para detectar si el trabajo de sus estudiantes estaba escrito por él, algo que ChatGPT dijo que así era. Como tal, amenazó con suspender la clase, aunque ChatGPT no pudo detectar cuáles eran los escritos generados por IA.[9] No se impidió a ningún estudiante graduarse por razón de este problema, y todos los estudiantes menos uno, que reconoció haberlo hecho, fueron exonerados de haber utilizado ChatGPT en su trabajo.[10] En abril de 2023, la Universidad de Cambridge y otros miembros del grupo de universidades Russell desestimaron la herramienta de detección de textos de IA de Turnitin, argumentando que no era fiable.[11]
