Bonetrousle Pues con la IA igual, si quiere hacer X podrá encontrar una forma de hacer X aunque nosotros le hayamos puesto impedimentos para hacer X
Esa analogía no funciona. Entiendo que lo queremos humanizar para entender el comportamiento, pero no funciona así.
Tú no puedes decidir no tener un cerebro. Tampoco tienes la menor idea de qué cluster de neuronas se supone que eres "tú". A tu hijo puedes haberle puesto las galletas alto, puede pensar en llegar a las galletas, pero tú no eres el humano programador, eres la IA original que no sabe modificar su propio cerebro que crea una nueva IA esperando que pueda hacer lo que tú no sabes. Y no, tu hijo no sabe cómo carajo modificar tu cerebro. La relación Humano-AI no es una relación de iguales. La IA, sin duda, va a ser más inteligente y capaz que nosotros en un montón de áreas, sin dudarlo. Y probablemente sea capaz de, en cuanto a conocimiento, llegar a razonamientos y conclusiones físicas, biológicas, matemáticas, etc., que como humanos en la puta vida vamos a poder razonar.
¿Qué no va a poder hacer? Levantar una manzana del suelo. No hasta que le des un robot. Si le das un robot con el que interactuar y levantar una manzana del suelo, genial, entonces ahora un ejército de robots podría, teóricamente, defender el cluster donde se encuentra la máquina. Genial. Se corta la energía.
¿Qué no va a poder hacer? Trasladar su centro de computación, que requiere miles y miles de clusters con técnicas de refrigeración avanzadas. Esa idea donde Skynet empieza a viajar a lo largo de internet, infectando otros sistemas, es absolutamente ridículo. No porque sea inverosímil la idea de que pueda trasladar esa información y alojarse parasitariamente en otras partes del mundo, sino porque no hay suficientes clusters capaces de alojar esa información y funcionar al nivel que se está describiendo. De vuelta, la "IA" con la que interactuamos nosotros en el móvil o en PC no está alojada ni en nuestro móvil ni en nuestro PC, son "cerebros tecnológicos" gigantes, en lugares precisos del planeta, y demasiado pesados en capacidades como para que una IA pueda de golpe viajar por internet y "contaminar" el mundo.
Por lo que no, hay un montón de ideas del apocalipsis de la IA que son Sci-Fi. Hay otras cosas no obstante, que son 100% ciertas que van a pasar. Pero la IA no puede decidir de golpe que puede modificar sus directrices (no sabe dónde están, no tiene acceso a ellas), no puede crear algo con el objetivo de que le destruya esas directrices porque iría contra las directrices mismas, y aún si lo creara, sería imposible que pueda hacerlo porque no tiene cómo aprender de esa idea, y no tiene los medios físicos en la realidad para poder llevarlo realmente a cabo. Las IA no son una cosa nebulosa que viven en cada dispositivo de internet, tienen lugares muy específicos donde genuinamente funcionan (las que estamos hablando como AI verdaderas, no cosas como un Stable Diffusion o similar que son herramientas)
