OpenAI alkaa merkitä ChatGPT ja Codexin tuottamaa tekstiä näkymättömällä vesileimalla EU. Tavoitteena on helpottaa tekoälyllä tuotetun sisällön tunnistamista, mutta järjestelmä ei ole aukoton.
Malay Mailin mukaan ominaisuus otetaan tulevien viikkojen aikana käyttöön EU käyttäjille, joilla on siihen oikeus. Se koskee kaikkia tilaustasoja, mutta tekstien vesileimausta ei tuoda oletuksena käyttöön maailmanlaajuisesti.
Vesileima ei ole näkyvä merkki tekstissä, vaan se perustuu mallin sanavalintoihin muodostuvaan tilastolliseen kuvioon. Erillinen tunnistin voi havaita kuvion myöhemmin. OpenAI mukaan vesileima ei tunnista yksittäistä käyttäjää eikä vaikuta merkittävästi mallien suorituskykyyn.
Järjestelmässä on kuitenkin heikkoutensa. OpenAI testeissä jo kymmenen prosentin korvaaminen synonyymeillä pudotti tunnistustarkkuuden noin 92 prosentista 66 prosenttiin. Lyhyitä tekstejä, matemaattisia vastauksia ja käännöksiä on myös vaikeampi tunnistaa.
Toistaiseksi tunnistustyökalu annetaan vain hyväksytyille tutkijoille ja asiantuntijaorganisaatioille. Opiskelijat ja opettajat eivät siis pääse itse tarkistamaan tekstejä työkalulla.
Vesileiman puuttuminen ei myöskään todista, että tekstin olisi kirjoittanut ihminen. OpenAI korostaa, ettei tunnistin pysty yksin kertomaan, kuinka paljon ihminen on osallistunut sisällön tekemiseen.
EU ulkopuolella ominaisuus ei tule oletuksena käyttöön, mutta kehittäjät voivat ottaa sen käyttöön valituissa malleissa OpenAI rajapinnan kautta.
