¿La IA que responde siempre? Sí, pero sin meterse en líos

Imagina una chat con una IA que promete reembolsos que no existen o se inventa políticas empresariales nunca oídas. Pasa más a menudo de lo que piensas. También les pasa a los grandes gigantes, como Air Canada, que se vio llevada a los tribunales por un chatbot que “alucinó” un reembolso inexistente. O, para nuestros amigos dev, el caso de Cursor AI, bastante “simpático”.

Sam es el bot de soporte al cliente de Cursor.

Un desarrollador nota cierres de sesión automáticos al pasar de PC a portátil. Contacta con soporte y Sam responde: "Cursor funciona solo en un dispositivo por suscripción, es una función de seguridad principal". Los usuarios se vuelven locos en Reddit y Hacker News, amenazan con cancelar pensando que es un cambio oficial. En realidad, era una pura alucinación de la IA, una política que nunca existió. Caos total: reembolsos, publicaciones virales, reputación en la cuerda floja. El cofundador intervino en Reddit aclarando que no existe ninguna limitación a un solo dispositivo por suscripción y que se trataba de una respuesta errónea del bot de soporte.

Lección para todos: la IA en soporte va con guardarraíles humanos

Casos como estos no son excepciones: si eres una empresa con un chatbot, muy probablemente has tenido experiencias negativas precisamente por falta de supervisión humana. Responder a todo manualmente es imposible, pero dejar que una IA gestione cualquier cosa corre el riesgo de crear problemas serios.