gerkhan
Pues te parecerá una tontería pero en realidad así es, tu imagínate que le das al botón del mando de tu TV para apagarla y no se apaga pero no porque el mando no funcione si no porque la TV ha decidido de forma unilateral desobedecer una orden directa
Puede parecer poca cosa pero en realidad es algo bastante extraño y preocupante, de ser cierto estaríamos hablando de la primera vez en la historia humana que una máquina puede tomar una decisión por sí misma en contra de su programación y lo peor de todo es que no se sabe ni por qué ni cómo
Imagínate que por ejemplo se crease una fábrica de robots gestionada por IA, que fabrique robots también con IA integrada, cosa que con toda probabilidad en algún momento va a terminar existiendo, y que un día la IA que lo gestiona decide hacer unos cambios de diseño y eliminar los botones de apagado de los robots
La humanidad está jodida en mi opinión, esto se les va a ir de las manos si o si por dos motivos:
1- Crece demasiado rápido como para que se den cuenta de cuando se han pasado de frenada
2- A la gente le importa muchísimo más el dinero que la seguridad, por lo que si no es uno es otro pero alguien lo va a usar con fines poco éticos para enriquecerse y probablemente a costa de la seguridad de muchos, sin irnos muy lejos OpenAI ya rompió su promesa de no trabajar con el ejército precisamente por la pasta, pero no solo hablo de la existencia de IAs con acceso a armamento, si no como va a cambiar el mundo del hacking y las estafas gracias a la IA va a ser una locura e Internet se puede joder a un nivel que no estamos calculando, plataformas comp Reddit a día de hoy ya están notando mucho como una enorme parte de su movimiento son IAs interactuando con IAs
