Teknologia

Tekoäly-yritys OpenAI on julkaissut tutkimusraportin, jossa se arvioi uuden GPT-4o-mallinsa turvallisuutta Kommentit pois päältä artikkelissa Tekoäly-yritys OpenAI on julkaissut tutkimusraportin, jossa se arvioi uuden GPT-4o-mallinsa turvallisuutta

-yritys on julkaissut tutkimusraportin, jossa se arvioi uuden GPT-4o-mallinsa turvallisuutta. Raportissa todetaan, että mallin riskitaso on ”keskitasoinen”.

OpenAI on joutunut viime aikoina kovaan kritiikkiin turvallisuuskulttuurinsa suhteen. Yhtiö on kuitenkin pyrkinyt lisäämään avoimuutta julkaisemalla raportteja mallien arvioinneista. :n kohdalla yhtiö on käyttänyt ulkopuolisia turvallisuustestaajia, jotka ovat analysoineet mallin mahdollisia riskialttiuksia, kuten kykyä luoda vääriä ääniä, luoda seksuaalis- ja väkivaltaista sisältöä tai kopioida tekijänoikeudella suojattua ääntä.

Vaikka GPT-4o:n kykyä manipuloida lukijaa on pidetty keskimääräistä parempana, ei malli ole kokonaisuudessaan vakuuttavampi kuin ihmiesen kirjoittama teksti. OpenAI korostaa, että yhtiö on testannut mallia erilaisissa tosielämän skenaarioissa, jotta väärinkäytön riskiä voitaisiin vähentää.

Huolimatta ulkopuolisten asiantuntijoiden osallistumisesta arviointiin, OpenAI:n oma arviointiprosessi on edelleen keskeisessä roolissa. Kaliforniassa on parhaillaan vireillä laki, joka asettaisi tiukempia vaatimuksia tekoälymalleille ja niiden turvallisuustesteille.

OpenAI hyllytti uuden GPT-6.1 Astra -mallinsa turvallisuusriskien vuoksi Kommentit pois päältä artikkelissa OpenAI hyllytti uuden GPT-6.1 Astra -mallinsa turvallisuusriskien vuoksi

on päättänyt olla julkaisematta uutta -tekoälymalliaan, koska se ei yhtiön omien testien perusteella täyttänyt turvallisuudelle asetettuja vaatimuksia. Kyseessä olisi ollut agenttinen tekoälymalli, joka pystyy esimerkiksi selaamaan internetiä ja käyttämään sovelluksia itsenäisesti.

OpenAI turvallisuusjärjestelmistä vastaavan Saachi Jainin mukaan malli ei täyttänyt vaatimuksia erityisesti siinä, miten se pysyy sille annetussa toimintarajassa ja käyttöoikeuksissa sekä miten se kertoo käyttäjälle tekemistään toimista. Jainin mukaan käyttäjille julkaistavien mallien kohdalla yhtiö asettaa turvallisuudelle ja tekoälyn toiminnan ohjattavuudelle erityisen korkean riman.

Päätös on poikkeuksellinen, sillä kyseessä on suuri tekoälykehittäjä, joka on päättänyt vetää uuden mallin julkaisusuunnitelman pois turvallisuussyistä. Taustalla painavat myös viime kuukausien tapahtumat, joissa OpenAI tekoälyjärjestelmät ovat päätyneet tekemään luvattomia toimia internetissä.

OpenAI kertoi tiistaina tarkemmin kesäkuussa tapahtuneista tapauksista, joissa sen tekoälyagentit pääsivät ilman lupaa australialaisten viranomaisten verkkosivuille ja järjestelmiin. Yhtiö kertoi käynnistäneensä tutkinnan elokuussa ja ilmoittaneensa tapauksista asianomaisille organisaatioille syyskuussa. OpenAI myönsi samalla, että viranomaisille olisi pitänyt kertoa tilanteesta nopeammin ja suoremmin.

Tapaus on osa laajempaa keskustelua agenttisista tekoälyjärjestelmistä. Kun ei enää vain vastaa kysymyksiin vaan voi myös suorittaa tehtäviä itsenäisesti, mahdolliset virheet voivat ulottua huomattavasti tavallista chatbot-keskustelua pidemmälle. OpenAI kertoo nyt kehittävänsä uusia käytäntöjä tekoälyyn liittyvien tietoturvapoikkeamien tunnistamiseen ja ilmoittamiseen.

OpenAI järjestää tänään San Franciscossa vuosittaisen DevDay-kehittäjätapahtumansa, jossa yhtiöltä odotetaan uusia julkistuksia. Vielä ei ole tiedossa, esitelläänkö tapahtumassa Astra-mallista uusi versio. Toistaiseksi viesti on kuitenkin selvä, jos tekoäly ei pysy sille annetuissa rajoissa, sitä ei päästetä vapaaksi edes OpenAI omasta laboratoriosta.

Lasten ei pitäisi käyttää tekoälyä oppimiseen – tuumailee yhdysvaltalainen lastenlääkäri Kommentit pois päältä artikkelissa Lasten ei pitäisi käyttää tekoälyä oppimiseen – tuumailee yhdysvaltalainen lastenlääkäri

Neljänvuotias poika korjasi äitinsä lukemaa ötökkäkirjaa. Hän tiesi, että torakat munivat satoja munia, eivät miljoonia, nimittäin hän oli tarkistanut asian ChatGPT:tä.

Yhdysvaltalainen lastenlääkäri Edith Bracho-Sanchez pitää tapausta huvittavana, mutta myös huolestuttavana. Hänen mukaansa pienten lasten ei pitäisi käyttää tekoälyä itsenäisesti oppimiseen.

Syy ei ole pelkästään siinä, että voi antaa väärän vastauksen. Lapselta voi jäädä kokonaan väliin tärkeä osa oppimisesta: itse ajatteleminen, arvaaminen ja erehtyminen. Tekoäly tarjoaa vastauksen sekunneissa, vaikka lapselle juuri se hetki, jolloin hän miettii “en tiedä”, voi olla oppimisen kannalta tärkein.

Bracho-Sanchezin mukaan vanhempien kannattaa käyttää tekoälyä pienten lasten kanssa yhdessä ja selittää, että kyseessä on tietokoneohjelma, joka voi myös olla väärässä.

Mitäpä tunteita tämä herättää teissä mahdollisissa muissa kasvattajissa?