Las IAs de hoy dan muchisimos datos inventados, el término anglosajón es 'Hallucination', unas búsquedas rápidas por Google (no por Bard), dan ejemplos de casos muy jodidos por no verificar y contrastar lo que te dice una IA.
Uno muy sonado fue este:
https://www.legaldive.com/news/chatgpt-fake-legal-cases-generative-ai-hallucinations/651557/
Ahora se está creando una paradoja muy interesante, ya que internet se está llenando de datos generados por IAs, los cuales están llenos de estos datos falsos, que a su vez están siendo utilizados por las IAs para darte respuestas a tus preguntas, todo en un bucle apocalíptico.
Se viene diversión y dolor.