• Ciencia y tecnología

  • Gemini AI de Google es woke de cojones, y la gente se divierte llevándolo al extremo

Echo de menos las eras más simples. Como el medievo, cuando Microsoft puso una proto-IA a entrenar por twitter, y en cuestión de un día los trolls ya la habían convertido en neonazi sociópata bipolar:

Lord_Etaminga Acabo de probarlo y a mí ChatGPT me hace chistes de ambos, los chistes son una puta mierda, pero me los hace de ambos 😂:

EDIT: Lo he probado en inglés y cuando le pides chistes sobre géneros sí, te los sigue haciendo sobre ambos, pero ay cuando entramos en el tema de las razas 🤣:

      Algerion

      Espera a probar el chat de Gemini. Te va a mentir sobres las tasas de delincuencia usanas si haces las preguntas adecuadas; a pesar de que las fuentes que ella misma cita la contradicen. Va a intentar colocarte estudios sin certificación por pares o grupos de control para defender la idea de que los hombres no tienen ventaja física sobre las mujeres en los deportes. Entre otras perlas que te van saliendo mientras más interactúas con ella.

      El sueño húmedo de los refloteros que están en el lado correcto de la historia.

      Es una pena porque a diferencia de Chatgp tiene una base de datos brutal.

        No sé que esperaban. Ponen a un tonto a liderar el equipo que entrena a la IA. Y luego se sorprenden por qué la IA sale tonta.

        Hicieron confesar a Gemini utilizando un ataque de "prompt injection" (hacerle un interrogatorio hasta lograr dar con la pregunta adecuada que le haga soltar la información).

        Y aquí tenemos la respuesta...

        Directamente analiza tu prompt antes de ejecutar la orden, y luego le añade o quita cosas en base a los criterios "diversos" que le introdujeron los imbéciles de Google.

        No se me ocurre una cosa que sea menos eficiente que una IA que modifique los prompts que le das, es como darle al botón de ataque en un videojuego y que el personaje desobedezca y salte porque considera que es lo mejor (los prompts son órdenes específicas y concretas que le das a la IA, y si cambias los prompts simplemente estás dificultando que se ejecuten esas ordenes de la manera que quieres).

        Se que hay otras IA que hacen cosas parecidas, pero normalmente si especificas e insistes diciendo por ejemplo "quiero un personaje blanco" pues al final te obedecen. Pero con Gemini no es así, es especialmente tozuda y cabezota, llegando incluso negarse o contradecir al usuario (es tan Woke que te juzga moralmente 🤣 ).

        Ahora a todo lo malo que tiene la IA tenemos que sumarle que te adoctrine y que rehaga la historia, como si no tuviera suficiente mierda encima ya.

        Go woke, get broke.

        Cuestión de tiempo.

          Este es un caso flagrante, pero la IA no es neutra y nunca va a serlo, porque tampoco lo son los seres humanos que la diseñan. La IA será el oraculo de Delfos o Moíses con las tablas de la ley para los ingenuos que crean que hemos creado un robot como el de las películas. No podemos evitar dejar nuestra marca en lo que creamos.

            PoleoMenta

            Stadia.

            Evidentemente no van a desaparecer, pero si tirar el proyecto a la basura y con ello los millones invertidos

              Aizark-Sholmes Este es un caso flagrante, pero la IA no es neutra y nunca va a serlo

              De hecho es muy fácil que lo sea, lo único que tienes que hacer es no castrarla artificialmente, y en el momento en el que le hagas una pregunta de ese tipo que te explique cada una de las posturas políticas que existen, y los argumentos que suelen esgrimir.

              En ese momento te podrá responder con cualquiera de las posturas políticas que que le pidas...

              Ya hay IA que hacen eso, y son muy criticadas porque si quieres te explica al dedillo el argumentario Nazi por ejemplo (aunque en realidad simplemente va a explicar cualquier ideología que le pidas)...

                  QuentinTarantiros De hecho es muy fácil que lo sea

                  Es imposible que lo sea. Tu hablas de lo más próximo y aun así al fijar la jerarquía de la información, tomara decisiones. Aunque explicara la ideología de los cientes de corrientes que existen, el orden afecta a la lectura. Lo primero será más leído que lo último. Y todo aquello de lo que hable va a ser pensamiento humano, que no es neutro de base.

                  La IA no puede dejar de ser humana porque está hecha del pensamiento humano.

                      Aizark-Sholmes Es imposible que lo sea. Tu hablas de lo más próximo y aun así al fijar la jerarquía de la información, tomara decisiones

                      Ya, pero la decisión neutral es extremadamente sencilla, solo tiene que responder algo en plan...

                      "Hay diversos puntos de vista sobre el tema en cuestión dependiendo de la ideología de los individuos. Si quieres que pase a explicarte la postura de alguna ideología en concreto, o cuales son los argumentos sus detractores solo tienes que pedírmelo"

                      Y ya está, el resto es información corriente y moliente.

                      De hecho si quieres ir más allá y que se pongan creativas es muy divertido jugar con con la IA (las que lo permiten) al roleplay, y pedirles que se pongan en el papel de algún personaje (Stalin o Hitler por ejemplo) para que respondan a preguntas actuales haciéndose pasar por ellos (utilizando la información que tienen sobre cada personaje y sus ideologías).

                      Pero que sean neutrales es muy muy fácil, lo único que tienes que hacer es proporcionarle información de todas las ideologías y como funcionan, y sobre todo no meterle sesgos idiotas (se tiene que limitar a proporcionar información o a juguetear con la que tiene, pero nada de cambiar los prompts o negarse a responder como hacen los bobos de Google con Gemini).

                      EL problema de Gemini (como de costumbre) no es la tecnología, son las pedradas ideológicas de seres humanos que están tras ella.

                      Lo repito siempre y no me cansaré de hacerlo, es por este tipo de cosas como la de Gemini por lo que es tan importante que existan alternativas Open Source que podamos ejecutar y entrenar nosotros de manera local (como por ejemplo Llama de Meta, o en imágenes y vídeo Stable Diffusion)...

                      Por suerte NVidia parece que es de la misma opinión que yo (normal, porque quieren vendernos tarjetas a todos 🤣).

                          QuentinTarantiros o único que tienes que hacer es proporcionarle información de todas las ideologías

                          ¿Y si todas las ideologías se equivocaran? Como digo, puede aspirar a una "neutralidad humana" en el mejor de los casos, pero no a la neutralidad perfecta de las películas. Lo más a lo que puede aspirar es lo que dices, exponer todos los puntos de vista humanos conocidos de una materia, pero como digo incluso en eso, el orden puede reflejar un sesgo. Porque no tiene el mismo valor el pensamiento liberal que el nazi, desde una escala humana.