¿Es ChatGPT el mejor difusor de noticias falsas?

May 27, 2023

22 de agosto de 2023

ChatGPT ha conquistado el mundo en 2023. A menos que haya estado viviendo bajo una roca, sabrá lo que ya es: un chatbot con inteligencia artificial (IA) que puede responder preguntas o completar cualquier tarea que le establezca (sin incluir manual, tareas de la vida real).

Por Lourens Sanders, ingeniero senior de ventas de Commvault SEEMEA

Se habla mucho de los beneficios: ahorrar tiempo y recursos, reducir costos y crear contenido innovador, por nombrar solo algunos.

Peligros potenciales

Sin embargo, cada vez es más evidente el problema de que ChatGPT no siempre es 100% exacto. Si se le pregunta algo que no sabe, el chatbot le dará una respuesta segura incluso si es incorrecta y, al no saber lo contrario, es probable que la mayoría de los consumidores lo crean. De hecho, ChatGPT incluso argumentará contra los usuarios que sugieran que esto es incorrecto y explicará por qué la respuesta que dio es correcta.

Esto ocurre porque ChatGPT no es como un motor de búsqueda. Los motores de búsqueda recopilan información de bases de datos, clasifican los hallazgos más populares y muestran al usuario estos resultados para que encuentre la respuesta que busca.

ChatGPT, de manera similar, encuentra la información en su base de datos, pero en lugar de transmitirla al usuario exactamente como la encontró, crea la respuesta haciendo una serie de conjeturas basadas en los resultados. Ahí es donde tiene potencial para salir mal y empezar a generar noticias falsas.

Pero no es sólo la creación de respuestas por parte de ChatGPT lo que genera el riesgo de generar noticias falsas. Como chatbot de IA, ChatGPT no tiene la capacidad de razonar, como los humanos. No puede identificar un artículo de opinión de un artículo de noticias fáctico, por lo que toma todo al pie de la letra. Dado que se estima que las noticias falsas representan el 62 % de toda la información de Internet, la probabilidad de que ChatGPT encuentre información falsa en su fase de descubrimiento y se la transmita como una respuesta definitiva es alta.

Además, con su base de usuarios de rápido crecimiento que bate récords, es probable que los usuarios hagan preguntas similares a ChatGPT y obtengan respuestas similares, si no exactamente iguales. Como resultado, múltiples duplicados de información falsa podrían terminar en línea. Habiendo sido repetido y declarado tantas veces, quedará consolidado como un hecho.

Un negocio arriesgado

Sin embargo, ChatGPT puede resultar útil en una variedad de departamentos comerciales, desde marketing hasta desarrollo de productos. Al crear la última campaña de marketing o desarrollar el último producto, muchos empleados recurrirán a Google en busca de inspiración, tal vez preguntando cuáles son los últimos puntos débiles que está experimentando la industria para poder dedicar su trabajo a resolver el problema. Dado que ChatGPT es accesible para todos, se está convirtiendo rápidamente en una herramienta útil en la etapa de generación de ideas de nuevos proyectos.

Sin embargo, como se destacó anteriormente, existe un gran riesgo de que ChatGPT proporcione una respuesta incorrecta a una pregunta sobre la cual los equipos luego desarrollen un producto o una campaña completa. Por ejemplo, ChatGPT podría sugerir que un problema de la industria de hace cinco años era uno de los puntos débiles actuales del sector.

Tomando esto como un hecho, un equipo de marketing podría crear una campaña completa en torno a esta idea, lo que provocaría un enorme daño a la reputación y consideraría que la empresa está fuera de contacto y obsoleta. Peor aún, si una empresa creara un producto completo en torno a este supuesto problema, se podrían invertir millones de rands en una solución que sus clientes no necesitan. Esto no sólo tendría un enorme impacto reputacional sino que también resultaría en una pérdida financiera significativa.

Mantenga a los humanos

Errores como los anteriores se pueden evitar si se aplica un poco de experiencia junto con la tecnología. Los seres humanos no deben quedar fuera de la ecuación todavía y cualquier información que ChatGPT le brinde debe ser revisada (y luego revisada dos veces) por expertos en el campo.

Quién sabe si algún día nuestros puestos de trabajo serán completamente reemplazados por robots pero, al menos por ahora, la experiencia humana sigue siendo esencial en los negocios. Piensa en ChatGPT más como un 'compañero de trabajo de IA' que te ayuda con ciertas tareas y aporta ideas pero, al final del día, aún tienes que hacer tu parte del trabajo.

Esto no quiere decir que ChatGPT y la IA, en general, no sean valiosos. Pueden ahorrar horas de tiempo a los empleados y generar excelentes ideas y conocimientos. ChatGPT aún se encuentra en sus primeras etapas y periódicamente se publican nuevas actualizaciones. Es sólo cuestión de tiempo hasta que sea una fuente confiable pero, hasta entonces, las empresas deben proceder con precaución.