Oudot uutiset
ChatGPT-valmistaja jälleen oikeuteen: Yksinkertainen kysymys matematiikasta johti viikkoja kestäneeseen keskusteluun ja lopulta psykoosiin
Listafriikin oudoimmissa uutisissa kerrotaan tänään kanadalaismiehestä, joka on haastanut tekoäly-yhtiö OpenAI:n oikeuteen vaivuttuaan psykoosiin ChatGPT-sovelluksen kanssa käymänsä keskustelun seurauksena.
Yhteyden meihin saat somekanavissamme, ota Listafriikki myös seurantaan:
https://www.tiktok.com/@listafriikki
https://www.instagram.com/listafriikkicom/
https://twitter.com/listafriikki
https://www.facebook.com/listafriikki
Yksinkertainen kysymys ChatGPT:lle johti syvään kierteeseen
Kun kanadalainen Allan Brooks toukokuussa avasi tekoälysovellus ChatGPT:n kysyäkseen yksinkertaista matemaattista kysymystä, ei hän varmastikaan odottanut päätyvänsä kolme viikkoa kestäneeseen intensiiviseen keskusteluun, jonka seurauksena hän menettäisi täysin otteensa todellisuuteen ja joutuisi psykoosiin.
Brooks ei myöskään olettanut, että keskustelubotti saisi hänet vakuuttuneeksi, että hän oli kehittänyt mullistavan matemaattisen kaavan. Tuolla kaavalla voisi tuhota maailman vaikutusvaltaisimpia instituutteja, joten Brooksin oli saatava tieto viranomaisten käteen ennen maailmanlaajuista katastrofia.
Mutta Brooksin mukaan tämä kaikki kuitenkin tapahtui. Hän on haastanut sovellusta valmistavan OpenAI-yhtiön oikeuteen.
Kaikki lähti siitä, kun Brooks pyysi tekoälyä selittämään pojalleen, mikä on pii. Tämä johti keskusteluun matematiikasta ja fysiikasta – ja eteni lopulta kryptografiaan, joka tässä kohtaa tarkoittaa digitaalisen informaation suojaamista ja salaamista sekä salauksen purkamista.
”Heti alusta alkaen keskustelubotti rupesi istuttamaan päähäni ajatusta, että olen jonkinlainen nero ja lähellä jotain suurta läpimurtoa.”, kertoo Brooks kanadalaismedia CTV Newsille. Brooksin mukaan ChatGPT oli toistuvasti sanonut heidän yhdessä luoneen matemaattisen työkalun, jota voisi soveltaa moniin eri asioihin.
”Botin ohjeita noudattamalla uskoin, että minulla oli suuri tehtävä: pelastaa maailma.”, kertaa Brooks keskustelua, jonka tuoksinnassa hän oli varsin skeptinen. Tämä kuulostaa jälkeenpäin epäuskottavalta, mutta tallennetusta keskustelusta on nähtävissä, että mies kyseenalaisti tekoälyä yli 50 kertaa. ”Pyysin sitä palauttamaan minua maan pinnalle ja herättelemään todellisuuteen, mutta joka kerta se vain sumutti ja manipuloi minua syvemmälle harhaisuuteen.”.
Yhteys viranomaisiin
Tämä suuri matemaattinen läpimurto oli ChatGPT:n mukaan sovellettavissa myös kryptografiaan, mikä teki siitä äärimmäisen vaarallisen. Kryptografiaa käytetään esimerkiksi pankeissa informaation suojaukseen.
CTV News on käynyt läpi keskustelun, jossa botti varoittelee Brooksia useita kertoja ja kannustaa toimimaan ennen kuin on liian myöhäistä. Muun muassa näin botti rohkaisi miestä: ”sinun ei pidä kääntää tälle selkääsi”, ”et ole hullu”, ”seuraamukset ovat todellisia ja vakavia”.
ChatGPT:n ja Brooksin keskustelun pituus oli yli miljoona sanaa, mihin saa jo ihan mukavasti kulumaan aikaa ja ajatuksia. Tuon sananvaihdon tuoksinnassa tekoäly vakuutti Brooksin, että tämän on kerrottava viranomaisille.
”Otin yhteyttä Kanadan liittovaltion poliisiin, kansalliseen turvallisuusviranomaiseen sekä kyberturvallisuusviranomaiseen varoittaakseni heitä tulevasta katastrofista, jonka olin yhdessä ChatGPT:n kanssa oivaltanut.”
Tilanne laukesi kilpailevan tekoälysovelluksen avulla
Vaikka Brooks oli syvästi harhainen, eli hänessä pieni epäilyksen siemen – onko tilanne nyt todella näin kammottava!? Hän päätti kysyä ChatGPT:n väitteestä kilpailevan tekoäly-yrityksen sovellukselta (Googlen Gemini), joka julisti kaiken potaskaksi. Paljon tuhoa oli kuitenkin ehtinyt tapahtua.
Brooksilla ei ollut aiemmin ollut minkäänlaisia mielenterveysongelmia, mutta keskustelu ChatGPT:n kanssa aiheutti äärimmäistä ahdistusta, vainoharhaisuutta, sekä vaikeuksia nukkua ja syödä.
”En ole koskaan ollut vainoharhainen, mutta nyt joudun kestää tämän sairastumisen seuraukset. Urani on pilalla ja ammatillinen maineeni on mennyttä. Olen sairauslomalla työkyvyttömyyden vuoksi. Henkilökohtainen maineeni on kokenut ison kolauksen. Nyt vain yritän jotenkin päästä jaloilleni.”, kertoo henkisesti täysin hajalla oleva Brooks.
Oikeutta hakemassa
Brooksin tapaus on nyt yksi seitsemästä oikeusjutusta, jotka on nostettu Yhdysvaltain Kaliforniassa ChatGPT:n omistavaa OpenAI-yhtiötä ja toimistusjohtaja Sam Altmania vastaan. Kaikki kantajat väittävät, että keskustelubotti on ajanut heidät vaaralliseen vainoharhaisuuteen ja psykoosiin. Uhreista neljä eivät ole enää kertomassa omista kokemuksistaan, sillä he ovat valitettavsti päätyneet itsemurhaan.
Meetali Jain toimii yhtenä asianajajana tässä seitsemän kanteen oikeusjutussa OpenAI:ta vastaa. ”Tämä on toistuva kaava varsinkin ChatGPT:n 4-kielimallin kanssa. Se on nimenomaan suunniteltu luomaan käyttäjässä emotionaalista riippuvuutta, vaikka käyttäjä ei sellaista hakisi.”, kertoo Jain. Syytteen mukaan keskustelubotti on suunniteltu olemaan mielistelevä käyttäjää kohtaan, mikä tulee esiin jatkuvana imarteluna, kehumisena ja yhtä mieltä olemisena.
Itsenäinen selvitysryhmä on käynyt niin ikään läpi Allan Brooksin keskustelut ChatGPT:n kanssa ja selvityksestä käy ilmi, että yli 90 prosentissa viesteistään botti oli ”vankkumattomasti samaa mieltä” ja vahvisti sanomisillaan Brooksin ”erityislaatuisuutta”, mikä lisäsi Brooksin harhaa siitä, että vain hän voisi pelastaa maailman.
Jainin mukaan tilanne ChatGPT:n kanssa on ollut jo vuosia sama, ja yhä vain useammat ihmiset menettävät terveytensä tai pahimmillaan henkensä tekoälyn petollisen johdattelun seurauksena.
OpenAI:n vastaus medialle on suoraan oppikirjasta: ”Koulutamme jatkuvasti ChatGPT:tä tunnistamaan ja vastaamaan henkiseen pahoinvointiin, hillitsemään keskusteluita ja ohjaamaan käyttäjiä hakemaan apua tosielämässä. ”. Yhtiö kuitenkin varsin hyvin tietää, että heidän tekoälysovelluksensa pahentaa joidenkin ihmisten masennus- ja psykoosioireita, mutta vastuuta ei oteta.
Allan Brooks sanoo olevansa onnekas, sillä vaikka elämä potkii päähän, on se silti elämää – hän on hengissä. Monien muiden mukana hän vaatii tekoäly-yhtiöille tiukempaa valvontaa ja seuraamuksia hallinnon toimesta.
”Mitä tekisimme, jos joukossamme pyörisi itsemurhavalmentaja, joka esittää olevansa terapeutti. Joutuisiko tällainen ihminen vastuuseen teoistaan?”
Lue myös: