Teknologia

OpenAI:n AGI-johtaja erosi – ei usko yrityksen olevan valmis siihen mitä se on rakentamassa Kommentit pois päältä artikkelissa OpenAI:n AGI-johtaja erosi – ei usko yrityksen olevan valmis siihen mitä se on rakentamassa

:n -valmiuden johtaja on eronnut tehtävästään. Brundage varoittaa, ettei OpenAI tai maailma ole valmis tulevaisuuteen, jossa keinotekoinen yleinen älykkyys (AGI) on arkipäivää.

Brundage kirjoittaa eron syyksi huolensa siitä, ettei OpenAI tai maailma ole riittävästi valmistautunut AGI:n mahdollisuuksiin ja riskeihin. Hän uskoo, että AGI:n kehitystä tulisi ohjata ulkopuolelta, eikä yrityksen sisästä.

Brundage on yksi OpenAI:n AGI-valmiusasteikon luojista. Tämä asteikko määrittelee viisi eri tasoa AGI:n kehityksessä. OpenAI uskoo tällä hetkellä olevan tasolla 2, joka tarkoittaa ihmisen tason päättelykykyä.

Brundage kuitenkin korostaa, että sekä OpenAI että maailma tarvitsevat vielä paljon työtä AGI:n turvallisen ja hyödyllisen kehittämisen varmistamiseksi. Hän huomauttaa, että AGI:n hyödyt eivät tule itsestään, vaan vaativat tarkkaan harkittua ohjausta ja sääntelyä.

OpenAI hyllytti uuden GPT-6.1 Astra -mallinsa turvallisuusriskien vuoksi Kommentit pois päältä artikkelissa OpenAI hyllytti uuden GPT-6.1 Astra -mallinsa turvallisuusriskien vuoksi

on päättänyt olla julkaisematta uutta -tekoälymalliaan, koska se ei yhtiön omien testien perusteella täyttänyt turvallisuudelle asetettuja vaatimuksia. Kyseessä olisi ollut agenttinen tekoälymalli, joka pystyy esimerkiksi selaamaan internetiä ja käyttämään sovelluksia itsenäisesti.

OpenAI turvallisuusjärjestelmistä vastaavan Saachi Jainin mukaan malli ei täyttänyt vaatimuksia erityisesti siinä, miten se pysyy sille annetussa toimintarajassa ja käyttöoikeuksissa sekä miten se kertoo käyttäjälle tekemistään toimista. Jainin mukaan käyttäjille julkaistavien mallien kohdalla yhtiö asettaa turvallisuudelle ja tekoälyn toiminnan ohjattavuudelle erityisen korkean riman.

Päätös on poikkeuksellinen, sillä kyseessä on suuri tekoälykehittäjä, joka on päättänyt vetää uuden mallin julkaisusuunnitelman pois turvallisuussyistä. Taustalla painavat myös viime kuukausien tapahtumat, joissa OpenAI tekoälyjärjestelmät ovat päätyneet tekemään luvattomia toimia internetissä.

OpenAI kertoi tiistaina tarkemmin kesäkuussa tapahtuneista tapauksista, joissa sen tekoälyagentit pääsivät ilman lupaa australialaisten viranomaisten verkkosivuille ja järjestelmiin. Yhtiö kertoi käynnistäneensä tutkinnan elokuussa ja ilmoittaneensa tapauksista asianomaisille organisaatioille syyskuussa. OpenAI myönsi samalla, että viranomaisille olisi pitänyt kertoa tilanteesta nopeammin ja suoremmin.

Tapaus on osa laajempaa keskustelua agenttisista tekoälyjärjestelmistä. Kun ei enää vain vastaa kysymyksiin vaan voi myös suorittaa tehtäviä itsenäisesti, mahdolliset virheet voivat ulottua huomattavasti tavallista chatbot-keskustelua pidemmälle. OpenAI kertoo nyt kehittävänsä uusia käytäntöjä tekoälyyn liittyvien tietoturvapoikkeamien tunnistamiseen ja ilmoittamiseen.

OpenAI järjestää tänään San Franciscossa vuosittaisen DevDay-kehittäjätapahtumansa, jossa yhtiöltä odotetaan uusia julkistuksia. Vielä ei ole tiedossa, esitelläänkö tapahtumassa Astra-mallista uusi versio. Toistaiseksi viesti on kuitenkin selvä, jos tekoäly ei pysy sille annetuissa rajoissa, sitä ei päästetä vapaaksi edes OpenAI omasta laboratoriosta.

Lasten ei pitäisi käyttää tekoälyä oppimiseen – tuumailee yhdysvaltalainen lastenlääkäri Kommentit pois päältä artikkelissa Lasten ei pitäisi käyttää tekoälyä oppimiseen – tuumailee yhdysvaltalainen lastenlääkäri

Neljänvuotias poika korjasi äitinsä lukemaa ötökkäkirjaa. Hän tiesi, että torakat munivat satoja munia, eivät miljoonia, nimittäin hän oli tarkistanut asian ChatGPT:tä.

Yhdysvaltalainen lastenlääkäri Edith Bracho-Sanchez pitää tapausta huvittavana, mutta myös huolestuttavana. Hänen mukaansa pienten lasten ei pitäisi käyttää tekoälyä itsenäisesti oppimiseen.

Syy ei ole pelkästään siinä, että voi antaa väärän vastauksen. Lapselta voi jäädä kokonaan väliin tärkeä osa oppimisesta: itse ajatteleminen, arvaaminen ja erehtyminen. Tekoäly tarjoaa vastauksen sekunneissa, vaikka lapselle juuri se hetki, jolloin hän miettii “en tiedä”, voi olla oppimisen kannalta tärkein.

Bracho-Sanchezin mukaan vanhempien kannattaa käyttää tekoälyä pienten lasten kanssa yhdessä ja selittää, että kyseessä on tietokoneohjelma, joka voi myös olla väärässä.

Mitäpä tunteita tämä herättää teissä mahdollisissa muissa kasvattajissa?