Stack Overflow acaba de prohibir las respuestas de ChatGPT: esto es lo que pasó

Internet sorprende con ChatGPT, un modelo de generación de texto OpenAI basado en GPT-3.5 que se percibe, nada más y nada menos, como una herramienta que podría convertirse en el “Google Killer” definitivo. Pese a sus aparentes ventajas, no todos abrazan un ChatGPT con el mismo entusiasmo. Stack Overflow acaba de prohibirlo.

Stack Overflow es una herramienta muy valiosa para los desarrolladores profesionales. Cada mes, más de 100 millones de personas hacen preguntas y respuestas sobre una amplia gama de temas de programación. Ahora, sin embargo, muchas respuestas no están siendo producidas por humanos, sino el último modelo de IA de OpenAI y, desafortunadamente, algunas son incorráticas.

Stack Overflow le dice adiós a ChatGPT

Según un comunicado de la plataforma propiedad de Prosus, el principal problema de ChatGPT es que, en general, las respuestas incorrectas que brinda son plausibles, es decir, parecen ser buenas respuestas. En este sentido, Stack Overflow ha llegado a la conclusión de que esta mecánica “es sustancialmente perjudicial para el sitio y para los usuarios”.

También señalan que muchos usuarios sin la experiencia o la voluntad de verificar la información, están utilizando ChatGPT para crear respuestas de manera rápida. Ciertamente, ChatGPT es mucho más rápido para elaborar una respuesta que uno humano, pero no siempre tienen la misma calidad. Producto de esto, el volumen de respuestas ha crecido sustancialmente poniedo en jaque el trabajo de los moderadores.

Si bien los algoritmos tienen cada vez más protagonismo en los sistemas de curación y moderación de contenidos, en Stack Overflow estas tareas se realizan principamente por voluntarios con cierto nivel de conocimiento que, después de una lectura detenida, determina si las respuestas son válidas. Los voluntarios, en este momento, no dan a basto con el volumen de respuestas que están recibiendo.

Como señala The Verge, el fenómeno de ChatGPT pone sobre la mesa una preocupación adicional. Si bien hasta ahora los lenguajes de gran tamaño no han generado grandes problemas, muchos temen que el patrón de generara una avalancha de contenido, con un porcentaje de datos falsos pero plausibles, pueda replicarse en otras plataformas, poniedo a prueba sus sistemas de moderación.

En el caso de Stack Overflow, como mencionamos anteriormente, prohibimos el uso de ChatGPT. Si la plataforma detecta que un usuario ha publicado respuestas utilizando esta herramienta experimental de OpenAI tras la publicación de esta nueva política de contenidos, dice que impondrán sanciones, incluso si la publicación tiene una explicación «aceptable».

ChatGPT está desatado entre los programadores: máquinas virtuales infinitas, LaTeX y robots que pican código solos

Cabe señalar que Stack Overflow no le ha cerrado la puerta definitivamente a ChatGPT. La plataforma indica que la prohibición tiene carácter temporal. Antes de tomar una decisión final, dicen que consultarán con la comunidad. Toca esperar para saber cuál será la postura de los usuarios y si finalmente ChatGPT tendrá un lugar dentro de la plataforma.

Imágenes: Arif Riyanto

Una Xataka: Ya hemos visto cómo una IA envejece y rejuvenece. Disney ha ido un paso más allá

Fuente