Google DeepMind julkaisee avoimen lähdekoodin vesileimatyökalun, joka auttaa tunnistamaan tekoälyn tuottaman tekstin

Google DeepMind julkaisi avoimen lähdekoodin vesileimatyökalun nimeltä SynthID-Text tämän keskiviikon, jotta voitaisiin auttaa tunnistamaan tekoälyn generoimaa tekstiä. Työkalu on ilmaiseksi saatavilla yrityksille ja kehittäjille, ja se toimii upottamalla näkymättömiä vesileimoja – jotka ovat ihmisen silmälle havaitsemattomia – tekstiin sen generoinnin aikana, muuttamalla sanojen todennäköisyyksiä.

“Tässä kuvataan SynthID-Text, tuotantovalmis tekstivesileimausjärjestelmä, joka säilyttää tekstilaadun ja mahdollistaa korkean havaitsemistarkkuuden, minimaalisella viiveellä,” toteaa tutkimuksen abstrakti, joka on julkaistu Nature-julkaisussa. “Mahdollistaaksemme vesileimauksen laajamittaisesti, kehitämme algoritmin, joka integroi vesileimauksen spekulatiiviseen näytteistämiseen, tehokkuustekniikkaan, jota usein käytetään tuotantojärjestelmissä.”

MIT Technology Review’n mukaan teknologiajätti kehitti AI-tutkimuslaboratoriossaan SynthID-teknologian, jolla voidaan luoda useita AI-vesileimatyökaluja, jotka voivat nyt tunnistaa AI:n tuottaman tekstin, musiikin, videon ja kuvat. Google DeepMind jakoi videon, jossa selitetään, kuinka teknologia toimii eri medioissa.

Here’s how SynthID watermarks AI-generated content across modalities. ↓ pic.twitter.com/CVxgP3bnt2

— Google DeepMind (@GoogleDeepMind) 23. lokakuuta 2024

SynthID on saatavilla yhtiön Google Responsible Generative AI Toolkitin kautta, ja tutkijat työskentelevät yhdessä Hugging Facen kanssa—yhteistyöalusta kehittäjille, joka isännöi muita avoimen lähdekoodin projekteja, kuten LeRobotin ohjeet AI-voimaisen robotin rakentamiseen kotona—jaakseen sen myös heidän sivustollaan.

”Nyt muut [generatiiviset] AI-kehittäjät voivat hyödyntää tätä teknologiaa tunnistaakseen, onko teksti-tulosteet tulleet heidän omista [suurista kielimalleistaan], mikä helpottaa useampia kehittäjiä rakentamaan AI:ta vastuullisesti,” sanoi Pushmeet Kohli, Google DeepMindin tutkimusjohtaja, MIT Technology Review’lle.

SynthID:tä on testattu Googlen Gemini-tuotteissa, eikä miljoonat käyttäjät pystyneet erottamaan vesileimatonta sisältöä vesileimallisesta. Tutkijat kuitenkin myöntävät, että sillä on rajoituksia, kun tekstiä on muokattu tai käännetty, mutta he pysyvät optimistisina ja uskovat, että työkalu voisi auttaa taistelemaan väärää tietoa vastaan ja parantamaan tekoälyn turvallisuutta.

Useat teknologiayritykset ovat ilmoittaneet tekoälyn merkintästrategioistaan viime kuukausien aikana. Meta ilmoitti helmikuussa järjestelmästä, joka tunnistaa tekoälyllä tuotettua sisältöä Instagramissa, Facebookissa ja Threadseissa, Google vaati käyttäjiä merkitsemään tekoälyllä tuotetun sisällön maaliskuussa ja Tiktok lisäsi merkinnät tekoälyllä tuotettuun sisältöön toukokuussa.