Expertos digitales abordan las implicancias del Chat GPT en la educación y el trabajo. Coinciden en que debe considerarse como una herramienta de apoyo, ya que sus fuentes no son transparentadas y que sus creaciones pueden llegar a convertirse en un plagio.
Por Matías Sánchez V.
Siempre las innovaciones tecnológicas traen detractores y partidarios. Las causas van desde posiciones morales hasta aspectos más tangibles como el miedo a perder el empleo. Sin embargo, todo eso depende de quién y cómo se use el invento. Por ello, diferentes expertos explicarán los alcances de una tecnología que está en el ojo del huracán: el Chat GPT. Creada por OpenAI, un laboratorio de investigación de inteligencia artificial estadounidense, entre cuyos miembros más conocidos está Elon Musk.
De manera muy breve, la tecnología denominada: “Transformador Generativo Pre-entrenado” (GTP, por sus siglas en inglés) emplea el aprendizaje profundo o Deep learning para producir textos que simulan la redacción humana. “Se clasifica como tecnología que genera contenido. Funciona a través del entrenamiento con formación proveniente de miles de textos, números y datos”, explica el director de Investigación del Institute for Experiential Al of Norheastern University, Ricardo Baeza Yates.
Según Rodrigo Fuentealba Cartes, consultor en análisis de datos para la empresa de Valparaíso New Stack, el funcionamiento de esta tecnología se basa esencialmente en dos algoritmos que se alimentan mutuamente: ‘generador’ y ‘evaluador’. “El generador crea texto basado en un cuerpo lingüístico, mientras que el evaluador aprende a reconocer si ese texto es generado por una máquina o un humano. Para ello, se basa en reglas de escrituras precodificadas y otros recursos”, detalla.
Dilemas de uso
Ante un sistema sofisticado que aprende de manera constante e intenta copiar el comportamiento humano, surgen los primeros dilemas. Por ejemplo, ya colegios de Nueva York e incluso universidades australianas han prohibido su uso, porque los estudiantes han comenzado a delegar sus responsabilidades al Chat GPT.
“El hecho de que pueda generar respuestas no significa que sean válidas, puesto que no sabemos cuáles son sus fuentes y no ofrece opciones como un motor de búsqueda. De hecho, pueden ser válidas las fuentes, pero el contenido que crea podría ser falso, porque no puede racionalizar y, al ser un predictor, solo combina y construye palabra por palabra”, pormenoriza John Atkinson Abutripy, académico de la Facultad de Ingeniería y Ciencias de la U. Adolfo Ibáñez.
Por eso, el también PhD en Inteligencia Artificial entiende que la prohibición del uso del chat en los colegios neoyorkinos se debe a que los establecimientos deben fortalecer el razonamiento y el análisis crítico en sus alumnos. “La oportunidad que se presenta es que los estudiantes contrasten la información que les proporciona el Chat GPT. También, que los sistemas educativos cambien sus métodos para evaluar, porque si el Chat GPT puede aprobar pruebas es porque las evaluaciones se basan en un modelo de pregunta y respuesta directa”, indica.
“El hecho de que pueda generar respuestas no significa que sean válidas, puesto que no sabemos cuáles son sus fuentes y no ofrece opciones como un motor de búsqueda. De hecho, pueden ser válidas las fuentes, pero el contenido que crea podría ser falso, porque no puede racionalizar”
John Atkinson Abutripy, académico de la Facultad de Ingeniería y Ciencias U. Adolfo Ibáñez.
Por lo anterior, es que resulta necesario saber cómo incorporar el Chat GPT a aspectos como la educación o el trabajo. “Áreas como el comercio o la industria no tendrían tanta dificultad para adoptar el Chat GPT en atención a clientes o el apoyo al desarrollo de procesos complejos. Sin embargo, en el caso de la medicina, un doctor inescrupuloso podría tentarse a diagnosticar una enfermedad basándose solo en lo que dice el chat, lo que causará negligencias”, advierte el también analista de sistemas Rodrigo Fuentealba.
Derechos de Autor
Al no saber de dónde viene la información, de manera implícita surge un nuevo problema: los derechos de autor. Eso porque el chatbot genera contenido sobre la base de documentación que no se cita, transformándolo en un plagiador automático que atenta contra el esfuerzo de profesionales y científicos.
“En Chile, la Ley 17336 de Propiedad Intelectual regula la protección de los derechos de autor y su principal objetivo es proteger las creaciones que provienen del intelecto humano”, dice María José Martabit Sagredo, académica del curso de Propiedad Intelectual de la Pontificia U. Católica de Chile.
Agrega: “Por ahora, no existe legislación que regule la protección del contenido de la tecnología GTP, pero dado que se basa en inteligencia artificial (IA) y no humana, a priori, no calificaría el contenido para ser protegido bajo la legislación actual. De hecho, la Oficina de Derechos de Autor de Estados Unidos determinó que las imágenes generadas por IA no están protegidas por ley, puesto que no son de autoría humana”.
Pese a estos antecedentes, Rodrigo Fuentealba alerta que no exime al usuario de alguna responsabilidad. “Supongamos que entrenamos al Chat GPT compuesto por un cuerpo lingüístico que contiene todas las letras de rock desde 1960 en adelante. Podría entregarnos una canción similar a Metallica. Por tanto, es nuestra responsabilidad revisar esta nueva letra”, afirma el especialista en Ciencia de Datos e Inteligencia Artificial.
Uso laboral
Pero no todo es negativo cuando se trata del Chat GPT, ya que a través de un correcto uso puede convertirse en una herramienta de apoyo laboral. Por ejemplo, podría ayudar a una persona que trabaja en la industria del software a resolver problemas más mecánicos como códigos de programación.
Un caso de uso es la empresa emergente de marketing de contenidos Redactores.com, la que funciona desde Perú y Venezuela para clientes de toda Latinoamérica. Según la cofundadora y CEO, María José Ramírez Cueva, en la empresa promueven el uso del Chat GPT como un compañero de trabajo. “La mostramos como una herramienta, cuyas limitaciones pueden cubrirse con el conocimiento humano y, con ello, ganar ventajas competitivas”, asegura.
Para aprovechar esta herramienta, les enseñan a los trabajadores los puntos en los que falla el chat, como sus deficiencias al formular ideas, oraciones o componer textos. “Con eso, el equipo sabe que sus resultados no serán más que una base con la cual partir para evaluar, editar o intervenir cada respuesta del Chat GPT”, señala la también licenciada en Comunicación Social.
Velocidad versus calidad
Si el Chat GPT proporciona información de manera rápida, podríamos estar en la encrucijada de velocidad versus calidad de la información. Según expertos, esta posibilidad debe solucionarse con herramientas que permitan detectar contenidos sesgados, falsos o imprecisos.
A juicio de la SEO de Redactores.com, María José Ramírez, este problema puede superarse gracias a la experiencia que se tuvo con la instantaneidad de las redes sociales y el aumento de la velocidad de internet. “Todo el atractivo del Chat GPT ha girado en que se puede hacer más con menos. Sin embargo, lo que más determinará es la manera en la que usemos esta herramienta”, dice.
“Áreas como el comercio o la industria no tendrían tanta dificultad para adoptar el Chat GPT en atención a clientes o el apoyo al desarrollo de procesos complejos. Sin embargo, en el caso de la medicina, un doctor inescrupuloso podría tentarse a diagnosticar una enfermedad basándose solo en lo que dice el chat”
Rodrigo Fuentealba, consultor.
La velocidad es solo uno de los aspectos diferenciales de esta tecnología y no es obvio que sea el más relevante. “Lo importante es que constituirá una herramienta fundamental que servirá como punto de partida para cualquier tipo de tarea que se quiera abordar. Además, ayudará a corregir posibles errores humanos”, puntualiza Joaquín Azcue Castillón, académico EAE Business School.
En conclusión, el Chat GPT es una herramienta útil, pero que debe usarse de manera ética y responsable. Eso significa que debe chequearse la información que ofrece y no utilizarlo para difundir noticias falsas, plagiar o engañar a la población.