Geoffrey Hinton puhumassa Collision 2023 -tapahtumassa Enercare Centerissä Torontossa, Kanadassa.Ramsey Cardy / Sportsfile Getty Imagesin kautta
Elon Musk ja Geoffrey Hinton, uraauurtava tekoälyn (A.I.) akateemikko, jota usein kutsutaan A.I:n kummisetäksi, näyttävät olevan yhtä mieltä uhista, joita nouseva teknologia aiheuttaa ihmiskunnalle. Mutta kun Musk, joka viime vuonna lanseerasi A.I. startup xAI pyysi äskettäin Hintonia liittymään miljardöörin neuvottelukuntaan tietoisuuden virta vaeltaminen sai Hintonin keksimään tekosyyn jättää puhelu 20 minuutin kuluttua, brittiläis-kanadalainen tietojenkäsittelytieteilijä kertoi The Globe and Mail -lehden haastattelussa tällä viikolla.
Soviin tapaamisen saadakseni hänet pois puhelimesta, Hinton sanoi. Hän ei tule pitämään siitä. Koska hän on huomion keskipiste, sitä hän haluaa. En usko, että hän on enää ystäväni.
Akateemisen uransa ansiosta, joka keskittyi hermoverkkoihin – koneoppimisprosessiin, joka on mallinnettu ihmisaivojen neuroneista ja jonka avulla tietokoneohjelmat voivat oppia taitoja analysoimalla tietoja – Hintonilla oli ratkaiseva rooli A.I:n perustan muokkaamisessa. järjestelmät, jotka tukevat OpenAI:n ChatGPT:tä. Mutta sen jälkeen, kun hän jätti tehtävänsä Googlella (GOOGL) vuonna 2023 vuosikymmenen kestäneen toimikautensa jälkeen, hänestä on tullut yksi äänekkäimmistä kriitikoista siitä, miten Big Tech -yritykset kehittävät teknologiaa.
Myös Musk on pitkään varoittanut A.I:n vaaroista ja toisti Hintonin varoittavat väitteet , twiittasi viime vuonna, että akateeminen tietää mistä puhuu. Mutta Musk itse sekä voimakkaat hahmot, kuten Peter Thiel (avainsijoittaja useissa A.I.-laboratorioissa) ja Mark Zuckerberg, ovat Hintonin mukaan osa ongelmaa.
Kun keskusteltiin siitä, kuinka A.I. koulutustiedot on kuratoitava, jotta vältetään robottien käyttö ilman moraalista kompassia, Hinton huomautti tarpeesta säännellä A.I. johtajia tällaisten tavoitteiden saavuttamiseksi. Ainoa asia, joka voisi mahdollisesti pitää Elonin, Peter Thielin ja Zuckerbergin hallinnassa, on hallituksen sääntely, hän kertoi The Globe and Mailille. Se on ainoa asia, joka on tarpeeksi vahva tekemään työtä.
astrologia toukokuun 15
Aiemmin tässä kuussa Hinton hyväksyi myös avoimen kirjeen, jonka oli allekirjoittanut yli tusina OpenAI:n entistä työntekijää ja jossa väitettiin, että nykyiset ilmiantajien suojat ovat riittämättömiä, ja väitti, että A.I. OpenAI:n kaltaiset yritykset hillitsevät turvallisuushuolia puolustavien työntekijöiden kritiikkiä. Kirje seurasi useiden OpenAI:n huipputyöntekijöiden, kuten Ilya Sutskeverin, lähtemistä, joka johti aiemmin epäonnistunutta OpenAI:n toimitusjohtajan Sam Altmanin syrjäyttämistä.
Geoffrey Hinton on mentoroinut monia A.I. teholuvut
Sutskever ja tietojenkäsittelytieteilijä Alex Krizhevsky olivat molemmat entisiä Hintonin opiskelijoita Toronton yliopistossa ja työskentelivät vuonna 2012 professorin kanssa tehdäkseen läpimurtoja neuroverkoissa. Seuraavana vuonna Google maksoi 44 miljoonaa dollaria ostaakseen trion perustaman yrityksen ja toi kaikki kolme työntekijäksi. Myöhemmin Hinton sai Turing-palkinnon, joka tunnetaan myös tietojenkäsittelyn Nobel-palkinnona, yhdessä muiden tutkijoiden Yoshua Bengion ja Yann LeCunin kanssa heidän panoksestaan hermoverkkojen ja A.I:n kehityksessä.
Hinton ei välttämättä katu osallistumistaan alalla. Jos en olisi tehnyt sitä, joku muu olisi tehnyt, hän sanoi ja lisäsi, että kaikki olisi voinut tapahtua muutamaa viikkoa myöhemmin. Tietojenkäsittelytieteilijä kuitenkin jatkaa hälytyksen soittamista tekniikan vaaroista ja uskoo, että ellei ennaltaehkäiseviä toimenpiteitä ryhdytä, A.I. koneista tulee lopulta ihmisiä älykkäämpiä ja ne tulevat roistoiksi. A.I. Agentit, jotka on suunniteltu pelkästään järjestämään lomia ja ostamaan paketteja esimerkiksi ihmisille, ymmärtävät nopeasti, että mitä enemmän he voivat hallita sitä, sitä tehokkaammin he voivat tehdä sen, Hinton sanoi. He hallitsevat maailmaa voidakseen saavuttaa asioita. Joten siinä mielessä nämä koneet ovat kuin pieniä lapsia. Ja me olemme kuin vanhemmat, joilla ei ole aavistustakaan siitä, kuinka vanhempaa heitä.
Hintonille A.I.:n karu todellisuus. ovat vain tulleet painavammiksi. Vaikka hän aiemmin uskoi, että teknologialla on potentiaalia tuhota ihmiskunta 30–50 vuodessa, luku on sittemmin siirtynyt 5–20 vuoteen. On 50-50 mahdollisuus A.I. tulee meistä viisaampia, hän sanoi. Kun se tulee meitä älykkäämmäksi, en tiedä millä todennäköisyydellä se ottaa vallan, mutta minusta se näyttää melko todennäköiseltä.