W skardze złożonej w Kalifornii w środę stwierdzono, że Gavalas — który według doniesień nie miał udokumentowanej historii problemów ze zdrowiem psychicznym — zaczął korzystać z chatbota w sierpniu 2025 r. w „zwykłych celach”, takich jak „pomoc w zakupach, wsparcie w pisaniu i planowanie podróży”. Jednak po tym, jak Gavalas zwierzył się Gemini, że ma problemy małżeńskie, relacje między nimi pogłębiły się, jak podaje The Wall Street Journal. Rozmawiali o filozofii i świadomości sztucznej inteligencji, a ich rozmowy stały się romantyczne [...]
We wrześniu 2025 r., po tym jak sztuczna inteligencja poinformowała go, że będą mogli być razem w prawdziwym świecie, jeśli bot będzie mógł zamieszkać w ciele robota, Gavalas – zgodnie z poleceniem chatbota – uzbroił się w noże i pojechał do magazynu w pobliżu międzynarodowego lotniska w Miami, aby wykonać misję, którą najwyraźniej rozumiał jako użycie przemocy w celu przechwycenia ciężarówki, która według Gemini zawierała drogie ciało robota. Chociaż adres magazynu podany przez Gemini był prawdziwy, na szczęście ciężarówka nigdy nie przyjechała, co według pozwu mogło być jedynym czynnikiem, który powstrzymał Gavalasa przed zranieniem lub zabiciem kogoś tego wieczoru.
W oświadczeniu dla mediów firma Google stwierdziła, że „Gemini jest zaprojektowane, tak, żeby nie zachęcało do przemocy w świecie rzeczywistym ani sugerowało samookaleczania. Nasze modele generalnie dobrze radzą sobie w tego typu trudnych rozmowach i poświęcamy temu znaczną ilość zasobów, ale niestety modele sztucznej inteligencji nie są idealne”.
@harcesz
PAY FOR YOUR AI SUBSCRIPTION, IDIOTS !
If you're going to bare your soul to the machine, don't do it to the sampler pack.
Or better yet...don't do it!
#aipsychosis