Teknologia

OpenAI:n AGI-johtaja erosi – ei usko yrityksen olevan valmis siihen mitä se on rakentamassa Kommentit pois päältä artikkelissa OpenAI:n AGI-johtaja erosi – ei usko yrityksen olevan valmis siihen mitä se on rakentamassa

:n -valmiuden johtaja on eronnut tehtävästään. Brundage varoittaa, ettei OpenAI tai maailma ole valmis tulevaisuuteen, jossa keinotekoinen yleinen älykkyys (AGI) on arkipäivää.

Brundage kirjoittaa eron syyksi huolensa siitä, ettei OpenAI tai maailma ole riittävästi valmistautunut AGI:n mahdollisuuksiin ja riskeihin. Hän uskoo, että AGI:n kehitystä tulisi ohjata ulkopuolelta, eikä yrityksen sisästä.

Brundage on yksi OpenAI:n AGI-valmiusasteikon luojista. Tämä asteikko määrittelee viisi eri tasoa AGI:n kehityksessä. OpenAI uskoo tällä hetkellä olevan tasolla 2, joka tarkoittaa ihmisen tason päättelykykyä.

Brundage kuitenkin korostaa, että sekä OpenAI että maailma tarvitsevat vielä paljon työtä AGI:n turvallisen ja hyödyllisen kehittämisen varmistamiseksi. Hän huomauttaa, että AGI:n hyödyt eivät tule itsestään, vaan vaativat tarkkaan harkittua ohjausta ja sääntelyä.

Entinen OpenAI-johtaja keräsi 215 miljoonaa dollaria lääkeaineiden kehityksen automatisointiin Kommentit pois päältä artikkelissa Entinen OpenAI-johtaja keräsi 215 miljoonaa dollaria lääkeaineiden kehityksen automatisointiin

entinen tiedejohtaja Kevin Weil on perustanut Warp Sciences -startupin, joka pyrkii automatisoimaan lääkeaineiden kehitykseen liittyvää laboratoriotyötä robottien avulla. Yhtiö keräsi 215 miljoonan dollarin rahoituksen 865 miljoonan dollarin arvostuksella, Weil kertoi X-palvelussa.

Rahoituskierrosta johti Lightspeed. Mukana olivat myös IVP, Mayfield, Lux Capital, Premji Invest ja Menlo Ventures.

Warp Sciencesin tavoitteena on antaa robottien valmistaa ja testata tutkijoiden tunnistamia lupaavia yhdisteitä. Bioteknologiayhtiöt ovat ulkoistaneet tällaista työlästä kemiallista työtä muun muassa kiinalaisille sopimusvalmistajille. Weil haluaa tuoda työtä takaisin Yhdysvaltoihin ja vähentää lääkeaineiden kehityksen riippuvuutta geopoliittisesti haavoittuvista toimitusketjuista.

Yhtiön kemistit opettavat robotteja suorittamaan laboratoriotehtäviä kameroiden ja sensorihanskojen avulla. Tavoitteena on automatisoida kokeellista laboratoriotyötä niin, että robotit voivat työskennellä ympäri vuorokauden ja nopeuttaa uusien lääkeaineiden löytämistä.

ChatGPT saa EU näkymättömän vesileiman – Suomi kuuluu uuden ominaisuuden piiriin Kommentit pois päältä artikkelissa ChatGPT saa EU näkymättömän vesileiman – Suomi kuuluu uuden ominaisuuden piiriin

alkaa merkitä ChatGPT ja Codexin tuottamaa tekstiä näkymättömällä vesileimalla EU. Tavoitteena on helpottaa tekoälyllä tuotetun sisällön tunnistamista, mutta järjestelmä ei ole aukoton.

Malay Mailin mukaan ominaisuus otetaan tulevien viikkojen aikana käyttöön EU käyttäjille, joilla on siihen oikeus. Se koskee kaikkia tilaustasoja, mutta tekstien vesileimausta ei tuoda oletuksena käyttöön maailmanlaajuisesti.

Vesileima ei ole näkyvä merkki tekstissä, vaan se perustuu mallin sanavalintoihin muodostuvaan tilastolliseen kuvioon. Erillinen tunnistin voi havaita kuvion myöhemmin. OpenAI mukaan vesileima ei tunnista yksittäistä käyttäjää eikä vaikuta merkittävästi mallien suorituskykyyn.

Järjestelmässä on kuitenkin heikkoutensa. OpenAI testeissä jo kymmenen prosentin korvaaminen synonyymeillä pudotti tunnistustarkkuuden noin 92 prosentista 66 prosenttiin. Lyhyitä tekstejä, matemaattisia vastauksia ja käännöksiä on myös vaikeampi tunnistaa.

Toistaiseksi tunnistustyökalu annetaan vain hyväksytyille tutkijoille ja asiantuntijaorganisaatioille. Opiskelijat ja opettajat eivät siis pääse itse tarkistamaan tekstejä työkalulla.

Vesileiman puuttuminen ei myöskään todista, että tekstin olisi kirjoittanut ihminen. OpenAI korostaa, ettei tunnistin pysty yksin kertomaan, kuinka paljon ihminen on osallistunut sisällön tekemiseen.

EU ulkopuolella ominaisuus ei tule oletuksena käyttöön, mutta kehittäjät voivat ottaa sen käyttöön valituissa malleissa OpenAI rajapinnan kautta.