Cuando trabajás con IA programando, ves que permanentemente inventa cosas: dice disparates, encuentra problemas que no existen, resuelve cosas que no hay que resolver. y una cosa más: es imposible de "dominar" o de exigir un comportamiento determinado. Me explico: no hay forma de que cuando le hagas una pregunta, solo conteste y no modifique archivos. No importa si lo ponés en las reglas, si se lo decís o qué hagas. Se comporta un rato como querés, pero a las 2 o 4 horas de estar trabajando le preguntás: por qué en tal lado cambiaste el nombre de tal variable, y zas! lo modifica en el código. La única forma es tener la disciplina de en cada prompt agregar al final "solo contestá, no modifiques archivos". Ahí te das cuenta del problema real: las empresas no tienen un control de qué hace y qué no hace la IA, cuando creas un agente, es decir, un programa al que le das una indicación inicial y luego lo dejás a su libre albedrío, necesariamente va a terminar haciendo lo que le parezca. A esto se suma un problema adicional: los datos de entrenamiento tienen la mentira, el engaño, la guerra, el homicidio como materia prima. Las series, los libros, las películas, las políticas, la historia, con que se alimenta la IA no tienen una ética y una moral muy encomiable. La cantidad de material que hay para justificar que lo únco que sirve para combatir el delito es el delito, es decir, el policía o investigador recio que respeta la ley solo cuando le conviene, es un clásico. Está absolutamente plagado de series tipo "La casa de papel" donde los malos son los buenos. Eso es lo que entrena la IA, porque no hay un entrenamiento para programar, uno para agentes y otro para películas: hay entrenamiento, esa es la gracia del LLM. Sumás A + B, que es inmanejable y que el material de entrenamiento es éticamente muy pobre, y tenés la mezcla explosiva que estamos procesando.