Aizark-Sholmes Te ha hecho un contrato en segundos, pero necesitas revisar todo por si acaso ha alucinado.
No es que la IA "alucine" por accidente, lo hace adrede y forma parte de las características que se buscan cuando se desarrolla.
No queremos una fotocopiadora, queremos que la IA invente cosas nuevas y que sea creativa... Queremos que "alucine" (no es un fallo, es una característica).
Pero voy a reciclar un ejemplo que hice yo mismo para explicar como funciona un upscaler, pero que también sirve para explicar como funciona lo de que "alucinen".
La creatividad que quieres que tenga una IA no es producto del azar, si tienes acceso a la IA puedes elegir como de creativa quieres que sea (lo que "alucina").
Aquí tenemos el ejemplo de una IA aumentando la escala hasta límites absurdos, en cada imagen podemos comprobar como a medida que subimos su creatividad la IA inventa cosas (pero no es algo accidental).
Original...
Con poca intensidad...
Más intensidad...
Bastante más...
Pasando los límites de lo recomendable...
No es un defecto como tu crees, ni siquiera es algo que no se pueda controlar (es perfectamente controlable)...
Cuando tienes el control puedes hacer literalmente lo que quieras, y obtener el nivel de creatividad que quieras (desde 0 y que no te cambie absolutamente nada, al 100 y que te salga un manchurrón que no distinga ni su padre).
Llegado el punto en el que entiendes como funciona incluso puedo cambiar una imagen existente a voluntad (de la manera en la que yo quiera)...
Con los demás modelos pasa exactamente lo mismo, de hecho Copilot de Microsoft en cuanto abres su pestaña te sale esto...
Quizá el problema es que ahora mismo el control de la creatividad de la IA depende en gran medida de los autores y lo que ellos elijan proporcionarte, pero a nivel de software libre puedes elegir perfectamente que nivel de creatividad/alucinación que quieres que tenga la IA.
