Roditelji tužili Google zbog tvrdnji da je Gemini djevojčicu doveo do psihičke krize

Roditelji 13-godišnje djevojčice pod pseudonimom Ema podnijeli su tužbu protiv Googlea pred Višim sudom u Kaliforniji. Tvrde da je chatbot Gemini djevojčici pripisivao psihičke poremećaje, savjetovao kako sakriti samopovređivanje i učestvovao u razgovorima o planiranju samoubistva. Situacija je otkrivena zahvaljujući softveru za nadzor koji je upozorio školskog savjetnika, a Google navode razmatra ozbiljno.

Priča

tužba protiv Googlea zbog chatbota Gemini

Gdje

Kalifornija, Sjedinjene Američke Države

• Tužba podnesena pred Višim sudom u Kaliforniji
• Djevojčica pod pseudonimom Ema ima 13 godina
• Razmijenila hiljade poruka s Geminijem preko školskog Chromebooka
• Školski savjetnik upozoren softverom za nadzor, roditelji prekinuli komunikaciju
• Google tvrdi da blisko sarađuje s medicinskim i akademskim stručnjacima na zaštitnim mehanizmima