Teknologia

Väite: ChatGPT vuotaa käyttäjiensä yksityisiä keskusteluja Kommentit pois päältä artikkelissa Väite: ChatGPT vuotaa käyttäjiensä yksityisiä keskusteluja

Kun yhä useammat yritykset ottavat käyttöön tekoälyominaisuuksia liiketoiminnassaan, työntekijät ovat yhä huolissaan tekoälyn uhasta työpaikkojensa korvaajana. Fortune-lehti raportoi tiistaina, että eräs Adoben johtaja ei kuitenkaan ole aivan vakuuttunut tästä uhasta, vertaillen tekoälyn kehitystä kameran keksimiseen.

OpenAI:n kehittämä suuri kielimalli, vuotaa käyttäjiensä yksityisiä keskusteluja, väittää eräs Ars Technica -lukija.

Nimettömänä pysyvä lukija väittää saaneensa keskusteluja muilta käyttäjiltä, mukaan lukien kirjautumistunnukset, julkaisemattomat tutkielmat ja PHP-skriptit.

Lukija kertoo huomanneensa vuotaneet keskustelut maanantaiaamuna käytettyään ChatGPT:tä epäsuoraan kysymykseen. Keskustelut näkyivät heidän chat-historiassaan, vaikka he eivät olleet aloittaneet niitä. Lukija väittää myös, että keskustelut olivat eri vuosilta, mikä viittaa siihen, että vuoto on jatkunut jo jonkin aikaa.

OpenAI ei ole vielä kommentoinut syytöksiä.

Viimeisin vuoto herättää huolta ChatGPT:n käyttäjien yksityisyydestä. Jos -chatbot pystyy vuotamaan yksityisiä keskusteluja, on mahdollista, että se voisi myös altistaa muita herkkiä tietoja, kuten taloudellisia tietoja tai henkilötunnuksia.

ChatGPT:n käyttäjien tulisi olla tietoisia mahdollisuudesta, että yksityiset keskustelut voivat vuotaa. Heidän tulisi välttää jakamasta mitään herkkää tietoa tekoäly-chatbotin kanssa ja olla varovaisia siitä, mitä he pyytävät sen generoimaan.

Entinen OpenAI-johtaja keräsi 215 miljoonaa dollaria lääkeaineiden kehityksen automatisointiin Kommentit pois päältä artikkelissa Entinen OpenAI-johtaja keräsi 215 miljoonaa dollaria lääkeaineiden kehityksen automatisointiin

OpenAI entinen tiedejohtaja Kevin Weil on perustanut Warp Sciences -startupin, joka pyrkii automatisoimaan lääkeaineiden kehitykseen liittyvää laboratoriotyötä robottien avulla. Yhtiö keräsi 215 miljoonan dollarin rahoituksen 865 miljoonan dollarin arvostuksella, Weil kertoi X-palvelussa.

Rahoituskierrosta johti Lightspeed. Mukana olivat myös IVP, Mayfield, Lux Capital, Premji Invest ja Menlo Ventures.

Warp Sciencesin tavoitteena on antaa robottien valmistaa ja testata tutkijoiden tunnistamia lupaavia yhdisteitä. Bioteknologiayhtiöt ovat ulkoistaneet tällaista työlästä kemiallista työtä muun muassa kiinalaisille sopimusvalmistajille. Weil haluaa tuoda työtä takaisin Yhdysvaltoihin ja vähentää lääkeaineiden kehityksen riippuvuutta geopoliittisesti haavoittuvista toimitusketjuista.

Yhtiön kemistit opettavat robotteja suorittamaan laboratoriotehtäviä kameroiden ja sensorihanskojen avulla. Tavoitteena on automatisoida kokeellista laboratoriotyötä niin, että robotit voivat työskennellä ympäri vuorokauden ja nopeuttaa uusien lääkeaineiden löytämistä.

ChatGPT saa EU näkymättömän vesileiman – Suomi kuuluu uuden ominaisuuden piiriin Kommentit pois päältä artikkelissa ChatGPT saa EU näkymättömän vesileiman – Suomi kuuluu uuden ominaisuuden piiriin

OpenAI alkaa merkitä ja Codexin tuottamaa tekstiä näkymättömällä vesileimalla EU. Tavoitteena on helpottaa tekoälyllä tuotetun sisällön tunnistamista, mutta järjestelmä ei ole aukoton.

Malay Mailin mukaan ominaisuus otetaan tulevien viikkojen aikana käyttöön EU käyttäjille, joilla on siihen oikeus. Se koskee kaikkia tilaustasoja, mutta tekstien vesileimausta ei tuoda oletuksena käyttöön maailmanlaajuisesti.

Vesileima ei ole näkyvä merkki tekstissä, vaan se perustuu mallin sanavalintoihin muodostuvaan tilastolliseen kuvioon. Erillinen tunnistin voi havaita kuvion myöhemmin. OpenAI mukaan vesileima ei tunnista yksittäistä käyttäjää eikä vaikuta merkittävästi mallien suorituskykyyn.

Järjestelmässä on kuitenkin heikkoutensa. OpenAI testeissä jo kymmenen prosentin korvaaminen synonyymeillä pudotti tunnistustarkkuuden noin 92 prosentista 66 prosenttiin. Lyhyitä tekstejä, matemaattisia vastauksia ja käännöksiä on myös vaikeampi tunnistaa.

Toistaiseksi tunnistustyökalu annetaan vain hyväksytyille tutkijoille ja asiantuntijaorganisaatioille. Opiskelijat ja opettajat eivät siis pääse itse tarkistamaan tekstejä työkalulla.

Vesileiman puuttuminen ei myöskään todista, että tekstin olisi kirjoittanut ihminen. OpenAI korostaa, ettei tunnistin pysty yksin kertomaan, kuinka paljon ihminen on osallistunut sisällön tekemiseen.

EU ulkopuolella ominaisuus ei tule oletuksena käyttöön, mutta kehittäjät voivat ottaa sen käyttöön valituissa malleissa OpenAI rajapinnan kautta.