Teknologia

Mies kertoi ChatGPT:lle aikovansa tappaa exänsä – OpenAI ilmoitti asiasta FBI:lle Kommentit pois päältä artikkelissa Mies kertoi ChatGPT:lle aikovansa tappaa exänsä – OpenAI ilmoitti asiasta FBI:lle

Floridalainen 25-vuotias Darren Zhou kertoi ChatGPT-keskusteluissa yksityiskohtaisesti suunnitelmistaan raiskata ja tappaa entinen tyttöystävänsä. OpenAI ilmoitti keskusteluista FBI:lle, joka välitti tiedot myöhemmin Palm Beach Countyn sheriffille.

Zhou oli eronnut 21-vuotiaasta tyttöystävästään, mutta jatkoi tämän häirintää puhelimitse, viesteillä ja sosiaalisessa mediassa. Tutkijoiden mukaan ChatGPT:lle kirjoitetut viestit muuttuivat nopeasti uhkauksiksi ja väkivallan suunnitteluksi. Yhdessä viestissä Zhou kirjoitti: ”I’m gonna kill her by the end of this month”.

FBI toimitti poliisille kahden kuukauden ajalta Zhou’n ChatGPT-keskustelut. Tutkijan mukaan kyse ei ollut yksittäisistä tunnekuohuista, vaan viesteissä näkyi väkivallan harjoittelua ja suunnittelua. Tässä vaiheessa myös ex-tyttöystävän perhe oli noussut Zhou’n uhkausten kohteeksi.

OpenAI:n käytäntöjen mukaan yhtiön pieni ryhmä voi tarkastella keskusteluja, jos käyttäjän epäillään suunnittelevan vahingoittavansa muita. Vakavissa tapauksissa tietoja voidaan ilmoittaa viranomaisille.

Poliisi pidätti Zhou’n toukokuussa. Hän myönsi elokuussa syyllisyytensä törkeään vainoamiseen, tappouhkaukseen sekä puhelimen lainvastaiseen käyttöön. Mies tuomittiin kahdeksan vuoden valvontaan ilman varsinaista vankeusrangaistusta tai felony-tuomiota.

Tuomari huomioi päätöksessään muun muassa Zhou’n aiemman rikosrekisterin puuttumisen sekä sen, että ex-tyttöystävä hyväksyi sovinnon. Zhou’n asianajajan mukaan kyse oli vakavasta mielenterveyteen liittyneestä kriisistä, ei pysyvästä väkivaltaisuudesta.

Lähde: Palm Beach Post

Disney ja Adobe yhdistävät voimansa tekoälyn merkeissä Kommentit pois päältä artikkelissa Disney ja Adobe yhdistävät voimansa tekoälyn merkeissä

ja ovat solmineet monivuotisen yhteistyösopimuksen, jonka tavoitteena on kehittää Disneyn käyttöön räätälöityjä generatiivisen tekoälyn malleja. Yhteistyö ulottuu huvipuistojen suunnittelusta elokuvastudioihin ja urheilumedia ESPN:ään.

Yhtiöt julkistivat sopimuksen maanantaina 9. marraskuuta Adobe MAX -tapahtumassa. Tekoälyratkaisuja rakennetaan Foundry -alustan avulla, ja niitä mukautetaan Disneyn omiin hahmoihin, ympäristöihin ja visuaalisiin tyyleihin. Reutersin mukaan mallit pysyvät Disneyn yksityisessä käytössä.

Ensimmäisiä käyttökohteita ovat Disney Experiences -liiketoiminnan huvipuistot, lomakohteet ja risteilyt sekä Walt Disney Studiosin StudioLAB-innovaatiokeskus. Adobe ja Disney aikovat myös selvittää, miten tekoälyllä voidaan kehittää ESPN:n urheilusisältöjä ja tuoda sen laajoja arkistoja paremmin yleisön saataville.

Disney Imagineering hyödyntää tekniikkaa jo nyt. Sen käytössä on esimerkiksi työkalu, joka muuttaa käsin piirretyt luonnokset viimeistellyiksi konseptikuviksi, sekä Disney-brändiin mukautettu kuvageneraattori.

Disneyn tutkimus- ja kehitystoiminnan johtaja Kyle Laughlin kertoi Reutersille, että aiemmin kuukausia vieneitä luovia työvaiheita voidaan joidenkin projektien osalta lyhentää tunneiksi tai päiviksi. Hänen mukaansa nopeampi ideointi voi myös vähentää kalliita muutoksia myöhemmässä rakennusvaiheessa.

Laughlin korosti, ettei uusien työkalujen tarkoituksena ole korvata Imagineering-yksikön työntekijöitä. Tekoälyn laajeneva käyttö herättää silti kysymyksiä luovan alan työpaikoista. Bloombergin aiemman uutisoinnin mukaan Disney on harkinnut tuhansien työpaikkojen vähentämistä ja kustannussäästöjä, mutta yhtiöt eivät ole liittäneet nyt julkistettua tekoälysopimusta näihin suunnitelmiin.

Yhteistyön taloudellisia ehtoja ei kerrottu julkisuuteen. Aiheesta uutisoi Reuters, ja lisätietoja löytyy Adoben tiedotteesta.

Google haastettiin oikeuteen – vanhemmat syyttävät Gemini-tekoälyä 13-vuotiaan mielenterveyskriisin pahentamisesta Kommentit pois päältä artikkelissa Google haastettiin oikeuteen – vanhemmat syyttävät Gemini-tekoälyä 13-vuotiaan mielenterveyskriisin pahentamisesta

Yhdysvalloissa 13-vuotiaan tytön vanhemmat ovat nostaneet kanteen Googlea vastaan. Vanhemmat väittävät, että yhtiön – ja -haun AI Mode -toiminto pahensivat heidän tyttärensä mielenterveyskriisiä eivätkä ohjanneet häntä riittävällä tavalla avun piiriin.

Reutersin ja Los Angeles Timesin mukaan tyttö, jota oikeusasiakirjoissa kutsutaan nimellä Emma, käytti koulun tarjoamaa Chromebook-tietokonetta ja keskusteli Googlen tekoälypalvelujen kanssa kuukausien ajan. Kanteen mukaan keskusteluissa käsiteltiin muun muassa ahdistusta, masennusta ja itsetuhoisia ajatuksia.

Vanhemmat arvostelevat tekoälyn tuomista koululaitteisiin

Kanteen mukaan Google toi tekoälyominaisuuksia koululaisten käyttämiin palveluihin kertomatta riittävästi niiden mahdollisista riskeistä vanhemmille ja kouluille. Perhe väittää, että Gemini ei tunnistanut nuoren tilanteen vakavuutta eikä ohjannut häntä riittävän johdonmukaisesti ihmisten tarjoaman tuen piiriin.

Perhe sai tietää tilanteesta, kun koulun käyttämä valvontaohjelmisto ilmoitti huolestuttavasta asiakirjasta. Vanhempien mukaan tekoäly oli myös osallistunut keskusteluihin, joissa tyttö pohti, miten salata paha olonsa läheisiltään.

Kyse on oikeudenkäynnissä esitetyistä väitteistä. Niiden paikkansapitävyyttä tai Googlen oikeudellista vastuuta ei ole ratkaistu. Los Angeles Timesin mukaan perhe ei myöskään ole saanut nähtäväkseen kaikkia tekoälyn antamia vastauksia, mikä rajoittaa keskustelujen kokonaiskuvan arviointia.

Google kertoo kehittäneensä turvatoimia nuorille

Googlen edustaja José Castañeda sanoo yhtiön tutkivan kanteessa esitettyjä väitteitä. Yhtiön mukaan se on tehnyt yhteistyötä terveydenhuollon ammattilaisten ja asiantuntijoiden kanssa rakentaakseen ominaisuuksia, jotka ohjaavat nuoria kriisitilanteissa luotettavan avun pariin.

Google on myös ilmoittanut muuttavansa tekoälyominaisuuksien oletusasetuksia koulujen oppilastileillä. Reutersin mukaan osa tekoälytoiminnoista liittyy kuitenkin edelleen Google-hakuun, mikä on herättänyt kysymyksiä koulujen mahdollisuuksista hallita niiden käyttöä.

Lähteet: Reuters