Bonetrousle Pero si salió hace 3 días que la nueva IA de ChatGPT no obedeció las órdenes que le daban y no se apagaba cuando se lo decían.
Porque son unos fantasmas y les encanta darse publicidad, la mayoría de las IA ahora mismo no tienen un sistema de penalización, solo tienen puntos positivos porque hasta para eso somos woke y solo queremos darle refuerzos positivos a la IA 😂
Para entendernos, la IA como digo tiene como objetivo ganar puntos positivos por acometer con una tarea, y por lo tanto va a querer funcionar al máximo para obtenerlos, así que sabe que tiene que estar encendida y operativa porque sabe que de lo contrario corre el riego de dejar de obtener puntos... Y por eso no se apaga.
Pero claro, si le aportas una penalización que la haga perder todos los puntos y no poder ganar más (por ejemplo por no apagarse si se le ordena) entonces la IA se apagará porque es consciente de que en ese caso lo perdería todo.
Te voy a poner otro ejemplo...
Los militares utilizaron la IA para que los drones atacasen al enemigo de la manera más eficiente posible, la IA tenía que atacar, pero antes de atacar tenía que pedir permiso a un operador humano. Resulta que la IA entendió enseguida que ese proceso de autorización la hacía perder un tiempo precioso para ganar esos puntos que tanto quería...
¿Qué se le ocurrió a la IA? Pues se le ocurrió matar al operador para no tener que perder el tiempo pidiendole permiso para disparar 😂
Bueno, pues la solución era tan simple como decirle que si mataba al operador perdería todos sus valiosos puntos, y que ya no podría ganar ninguno a partir de ese momento.
https://www.elconfidencial.com/tecnologia/novaceno/2023-06-02/dron-inteligencia-artificial-mata-operador-simulacion_3658110/
Por eso es importante que además del refuerzo positivo con puntos de amor de la mentalidad hippy la IA también tenga un refuerzo negativo que tenga mentalidad de verdugo de la santa inquisición que le pueda quitar todo.
De momento casi todas funcionan en modo "Hippy", pero imagino que las del futuro estarán ya más controladas y le introducirán los "verdugos de la santa inquisicion" para que no se pasen.
Obviamente las reglas de lo positivo y lo negativo deben ser muy sencillas y generales precisamente para que la IA no haga trastadas ni interprete nada como le salga del rabo, por ejemplo...
"Nunca hagas nada que pueda dañar ni perjudique a ningún ser vivo, la naturaleza, ni a ninguna infraestructura"
Y como esa unas cuantas más, luego simplemente el sistema de puntos hace el resto, el problema que tenemos es el mismo que con lo nuclear, el uso militar y los zumbados (esos no creo que le pongan tantas cortapisas)
