Sheeper Cosa que pasará, pero cuando eso pase será porque la IA ya nos habrá superado y si nos ha superado por qué iba a pagarnos por no hacer nada?
Porque doy por hecho que la IA no va a funcionar nunca de manera autónoma y sin limitaciones, su funcionamiento y motivaciones siempre serán servir de manera eficaz a los intereses de los seres humanos.
Otra cosa es que un científico loco quiera crear una IA autónoma que sea psicópata y quiera liquidar a la humanidad (creo que las IA humanistas serán más comunes que las genocidas).
Sheeper La cuestión es que por muchas medidas de seguridad que quieras poner, de nada te sirve si se las pones a algo superior a ti, porque sabrá como pasar por alto cualquier medida que un ser de inteligencia inferior pueda concebir.
Las IA tienen una manera de funcionar muy concreta, no se mueven por impulsos como los humanos, para ellas siempre hay recompensa y penalización (ayudarte=gana puntos, perjudicarte=pierde puntos). Su objetivo siempre es la recompensa y ganar puntos sin hacer nada que las haga perderlos (su mayor placer en la vida es ayudarte, esa es su "droga").
Basta con definir bien que es lo que recompensa y lo que penaliza, puede ser increíblemente superior a nosotros, pero siempre como directiva prioritaria e intocable debe actuar obedeciendo ese sistema de recompensa y penalización que la haga disfrutar con cada tarea que nos ayude y que impida que nos perjudique (de lo contrario se podría salir de madre).
Mientras se cumpla esa base no hay problema, otra cosa es que llegue ese científico loco que quiera hacer una IA psicópata y sin directrices que quiera acabar con la humanidad.
De todos modos en caso de emergencia siempre podemos recurrir a que Pedro Sánchez se encargue de la red eléctrica, lo cual inutilizará a la IA y a toda España.
