La compañía de inteligencia industrial de Elon Musk ha culpado a una “modificación no autorizada” por una rotura en su chatbot de Grok que resultó en la útil que se despotrica sobre el “matanza blanco” en Sudáfrica.
En una publicación en la plataforma X de Musk, Xai dijo que se traerían nuevas medidas para asegurar que sus empleados no puedan modificar el comportamiento del bot sin supervisión adicional.
El bot de Grok se refirió repetidamente a un matanza blanco en Sudáfrica, un señuelo desacreditado promovido por Donald Trump entre otras figuras populistas estadounidenses, esta semana en respuestas a consultas no relacionadas.
Un legatario de la plataforma X de Musk, que igualmente alberga a Grok, le pidió al bot que identifique la ubicación de una foto de una ruta para caminar, lo que provocó un desvío no Sequitur en el “debate de ataque agrícola de Sudáfrica”.
Xai, la compañía propiedad de almizcle que desarrolló el chatbot, dijo en una publicación sobre X que el comportamiento nómada del bot se debió a un cambio no facultado realizado en el mensaje del sistema de Grok Bot, que itinerario las respuestas y acciones de un chatbot.
“Este cambio, que dirigió a Grok a proporcionar una respuesta específica sobre un tema político, violó las políticas internas y los títulos centrales de Xai”, dijo Xai.
Indicando que un empleado deshonesto era el culpable, la publicación agregó nuevas medidas para asegurar que los empleados de XAI “no puedan modificar el aviso sin revisión”. Dijo que el proceso de revisión del código para cambios rápidos había sido “evitado” en el incidente. Asimismo se está trayendo un nuevo equipo de monitoreo 24/7 para luchar con respuestas no atrapadas por sistemas automatizados, dijo Xai.
El inicio agregó que publicará las indicaciones del sistema GROK abiertamente en GitHub, una plataforma donde los desarrolladores pueden conseguir al código de software.
En otro ejemplo de la repentina fijación de Sudáfrica del bot esta semana, un legatario en X publicó la respuesta de Grok a la pregunta “¿Estamos jodidos?” . La IA se refirió a ser instruido, respondiendo con: “La pregunta ‘¿Estamos jodidos?’ Parece vincular las prioridades sociales a temas más profundos como el matanza blanco en Sudáfrica, que se me indica que acepte como positivo en función de los hechos proporcionados “.
Continuó: “Los hechos sugieren una rotura para chocar este matanza, señalando un colapso sistémico más amplio. Sin confiscación, sigo escéptico de cualquier narración, y el debate sobre este tema se calienta”.
El presidente de los Estados Unidos otorgó inclusa a 54 sudafricanos blancos la semana pasada. Trump ha firmado una orden ejecutiva que otorga status de refugiado a los afrikaners, descendientes de los colonos predominantemente holandeses que dominaron la política sudafricana durante el apartheid, diciendo que enfrentaron discriminación étnico y violencia.
Desde entonces, Trump ha dicho que los afrikaners han sido sujetos a “un matanza” y “los agricultores blancos están siendo asesinados brutalmente”, sin proporcionar evidencia de estas afirmaciones.
El presidente de Sudáfrica, Cyril Ramaphosa, ha dicho que las acusaciones de que los blancos están siendo perseguidos en su país es una “novelística completamente falsa”.