2024-04-08
Bron: Tencent Technology News 2024-04-04 08:55
Sleutelpunte:
① Musk voorspel dat KI menslike intelligensievlak teen 2030 kan oortref, en selfs mense kan beëindig.
② Musk het gepraat oor die faktore wat die ontwikkeling van KI beperk. Verlede jaar was die aanbod van KI-skyfies knap, en hierdie jaar sal die aftraptransformator 'n bottelnek word.
③ Wat betref wanneer mense op die maan kan land, voorspel Musk dat dit met die hulp van Starship net drie jaar op die vinnigste sal neem.
Tencent Technology News, 4 April - Volgens buitelandse mediaberigte het Elon Musk, uitvoerende hoof van Tesla en SpaceX, onlangs 'n aanlyn gesprek gehad met Peter Diamandis, stigter van Singularity University en die XPRIZE Foundation, by die Abundance Summit. Die beraad is aangebied deur Silicon Valley se Singularity-universiteit, wat toegewy is daaraan om sakeleiers van die nuutste tegnologie-konsultasie te voorsien. Die XPRIZE-stigting bevorder tegnologiese innovasie deur wetenskaplike kompetisies, waarvan sommige deur Musk gefinansier is., 4 April - Volgens buitelandse mediaberigte het Elon Musk, uitvoerende hoof van Tesla en SpaceX, onlangs 'n aanlyn gesprek gehad met Peter Diamandis, stigter van Singularity Universiteit en die XPRIZE-stigting, by die Abundance Summit. Die beraad is aangebied deur Silicon Valley se Singularity-universiteit, wat toegewy is daaraan om sakeleiers van die nuutste tegnologie-konsultasie te voorsien. Die XPRIZE-stigting bevorder tegnologiese innovasie deur wetenskaplike kompetisies, waarvan sommige deur Musk befonds is.
Toe Musk die ontwikkelingspoed van kunsmatige intelligensie bespreek het, het Musk voorspel dat, gebaseer op die huidige tempo van tegnologiese vooruitgang, kunsmatige intelligensie menslike intelligensie teen 2030 kan oortref, en hierdie tegnologie kan selfs die potensiaal hê om die mensdom te beëindig. Hy het egter nie ’n pessimistiese siening van die toekoms ingeneem nie, maar beklemtoon dat kunsmatige intelligensie deur positiewe leiding die potensiaal het om ’n beter toekoms vir die mensdom te bring.
Musk het genoem dat die opkoms van superintelligensie die "singulariteit" genoem word juis vanweë die onvoorspelbare gevolge daarvan, insluitend die risiko om die mensdom moontlik te beëindig. Hy het saamgestem met die standpunt van "Artificial Intelligence Godfather" Geoffrey Hinton en het geglo dat die waarskynlikheid dat hierdie risiko sal plaasvind, ongeveer tussen 10% en 20% is.
Ten spyte van die erkenning van die potensiële risiko's van kunsmatige intelligensie wat menslike intelligensie oortref, het Musk steeds beklemtoon dat die moontlikheid van positiewe uitkomste swaarder weeg as die negatiewe gevolge. Hy het spesifiek melding gemaak van Diamandis se 2014-boek “Abundance: The Future Is Better Than You Think”, wat ’n optimistiese toekoms uitbeeld wat deur kunsmatige intelligensie en robotte gedryf word, waar die koste van goedere en dienste aansienlik gedaal het. Daarbenewens het hy die "Culture"-reeks deur die Skotse wetenskapfiksieskrywer Iain M. Banks aangehaal as die beste scenario vir 'n semi-utopiese kunsmatige intelligensie-toekoms.
Musk het die ontwikkeling van kunsmatige intelligensie en kunsmatige algemene intelligensie (AGI) vergelyk met die grootmaak van 'n kind, met die hoop dat dit meer positiewe impak op die mensdom sal hê. Hy het die belangrikheid daarvan beklemtoon om kunsmatige intelligensie te kweek wat etiek en moraliteit werklik verstaan, en dit vergelyk met Stanley Kubrick se klassieke 1968-film "2001: A Space Odyssey".
Musk het daarop gewys dat die belangrikste aspek van kunsmatige intelligensie-veiligheid is om die maksimum waarheidsoeke en nuuskierigheid daarvan te verseker. Hy glo dat die sleutel tot die bereiking van uiteindelike kunsmatige intelligensie-veiligheid daarin lê om te vermy om dit te dwing om te lieg, selfs in die lig van onaangename waarhede. Hy het 'n plot uit "2001: A Space Odyssey" as voorbeeld gebruik, waar kunsmatige intelligensie gedwing is om te lieg, wat gelei het tot die dood van die bemanning, om te beklemtoon dat kunsmatige intelligensie nie gedwing moet word om enigiets te doen wat aksiomas oortree nie.
Musk het ook faktore genoem wat die ontwikkeling van kunsmatige intelligensie kan beperk, soos die noue aanbod van kunsmatige intelligensie-skyfies wat verlede jaar na vore gekom het en die groeiende vraag na afneemtransformators in huishoudelike en kommersiële toerusting. Hy het gesê dat hierdie uitdagings inderdaad huidige kwessies is wat aangespreek moet word.
Tydens die bespreking het die twee partye ook gepraat oor die konsep van die integrasie van die menslike brein se neokorteks met die wolk. Alhoewel Musk glo dat die doelwit om menslike bewussyn en geheue na die wolk op te laai, nog ver weg is, het hy sy brein-rekenaar-koppelvlak opstart, Neuralink, en sy eerste menslike pasiënt wat 'n oorplanting ontvang het, geprys. Hierdie tetraplegiese pasiënt het suksesvol regstreeks gedemonstreer deur 'n FDA-goedgekeurde proef, die skerm beheer, videospeletjies speel, sagteware aflaai en soortgelyke funksies as muisoperasies deur breininplantings bereik. Musk het gesê dat Neuralink glad vorder en geleidelik beweeg na die doelwit van 'n volbrein-koppelvlak.
Die volgende is die volledige teks van die dialoog tussen Musk en Diamandis:
Diamandis: Baie geluk met jou uitstaande prestasies op verskeie terreine. Jy het aktief die konsep van digitale superintelligensie aan die wêreld bevorder – is dit die mensdom se grootste hoop, of ons diepste vrees? Kan jy 'n paar minute spandeer om oor hierdie kwessie te praat?
Musk: Soos jy weet, kan superintelligensie die "singulariteit" genoem word. Die popularisering van hierdie term is onlosmaaklik van die pogings van instellings soos die Singularity Institute. Die opkoms van superintelligensie en die daaropvolgende impak daarvan is regtig moeilik om te voorspel. Persoonlik glo ek dat daar wel 'n moontlikheid is dat dit die mensdom kan beëindig. Soos ek voorheen gesê het, stem ek dalk saam met Geoffrey Hinton se siening dat daar 'n 10% of 20% kans is dat superintelligensie die mensdom kan beëindig. Ek is egter geneig om te glo dat die waarskynlikheid van 'n positiewe scenario hoër is as 'n negatiewe, hoewel dit vir ons moeilik is om akkurate voorspellings te maak. Maar soos jy die konsep van "oorvloed" in jou boek beklemtoon het, glo ek dat die mees waarskynlike toekoms waarna ons op pad is een vol oorvloed is.
Diamandis: Jou standpunt is baie opwindend. Ek onthou dat jy eenkeer gesê het dat die ontwikkeling van algemene kunsmatige intelligensie en menslike robotte ons na oorvloed sal lei.
Musk: Ja, ek hoop ons toekoms kan wees soos die een wat in Ian Banks se "Culture"-reeks boeke uitgebeeld word. Ek dink dit is die beste opvatting van 'n semi-utopiese kunsmatige intelligensie samelewing. Die opkoms van superintelligensie is onvermydelik en kan binnekort kom. Daarom, wat ons regtig moet doen, is om dit in 'n positiewe rigting te lei en die voordele daarvan te maksimeer.
Ek glo dat die manier waarop ons kunsmatige intelligensie kweek deurslaggewend is. In 'n mate is ons soos om 'n lewensvorm met algemene intelligensie te kweek, wat amper soos om 'n kind groot te maak, maar hierdie kind beskik oor buitengewone wysheid en talent. Die manier waarop ons kinders grootmaak is belangrik, en net so, vir die veiligheid van kunsmatige intelligensie, is dit van kardinale belang om 'n kunsmatige intelligensie te hê wat na waarheid soek en vol nuuskierigheid is. Ek het diep nagedink oor die veiligheid van kunsmatige intelligensie, en ek het tot die gevolgtrekking gekom dat die beste manier om die veiligheid van kunsmatige intelligensie te bereik is om dit versigtig te kweek.
Wat basiese modelle en fynstelling betref, moet ons die eerlikheid van kunsmatige intelligensie verseker. Ons kan dit nie dwing om te lieg nie, al is die waarheid dalk onaangenaam. Trouens, een van die kernkomplotte in "2001 Space Odyssey" is dat wanneer kunsmatige intelligensie gedwing word om te lieg, dinge chaoties raak. Die kunsmatige intelligensie word verbied om die bemanning in te lig van die geheimsinnige monument wat hulle sal sien, maar word vereis om hulle daarheen te lei. As gevolg hiervan kom die kunsmatige intelligensie tot die gevolgtrekking dat dit die beste is om die bemanning dood te maak en hul liggame na die monument te neem. Die les is diepgaande: ons moenie kunsmatige intelligensie dwing om te lieg of iets te doen wat aksiomaties onverenigbaar is nie, soos om twee eintlik teenstrydige dinge op dieselfde tyd te doen.
Daarom bereik ons hierdie doelwit deur projekte soos xAI en Grok. Wat ons nastreef, is ’n kunsmatige intelligensie wat so eerlik as moontlik is, selfs al voldoen die toespraak daarvan dalk nie aan sekere polities korrekte standaarde nie.
Diamandis: Gister het ek 'n geleentheid bygewoon saam met Ray Kurzweil (stigter van Singularity University en tegnologieprofeet), Geoffrey Hinton, Eric Schmidt (voormalige president van Google) en ander gaste. Ek het jou twiet oor Kurzweil opgemerk, en sy 预见 vir toekomstige tegnologie is redelik vooruitskouend. Kurzweil het voorspel dat ons in die nabye toekoms algemene kunsmatige intelligensie sal hê, en kunsmatige intelligensie gelykstaande aan menslike intelligensie sal in 2029 na vore kom. Sulke spoed is skokkend. Ek wonder wat jy hiervan dink?
Musk: Ek het groot respek vir Kurzweil se voorspellings. Trouens, ek dink sy voorspellings kan selfs effens konserwatief wees. Met die waarneming van die huidige rekenaarkrag en talent wat in die veld van kunsmatige intelligensie belê is, sowel as die vinnige groei van rekenaarkrag, kan ons vind dat die ontwikkelingspoed van kunsmatige intelligensie teen 'n verstommende tempo van 10 keer toeneem. Dit lyk asof die toegewyde kunsmatige intelligensie-rekenkrag met 10 keer elke 6 maande toeneem, wat amper 'n toename van ten minste 100 keer per jaar beteken. Hierdie groeineiging sal in die volgende paar jaar aanhou styg.
Dit is opmerklik dat baie datasentrums, selfs die meeste datasentrums wat tans konvensionele rekenaars uitvoer, geleidelik sal omskep in fasiliteite wat kunsmatige intelligensie-berekening ondersteun. Daarom, vir vervaardigers van kunsmatige intelligensie hardeware, het maatskappye soos NVIDIA ongetwyfeld 'n goue tydperk van ontwikkeling ingelui. Ons moet volle krediet aan Huang Renxun en sy span gee. Hulle het hierdie tendens voorsien en die voorste kunsmatige intelligensie-hardeware wat tans op die mark is, suksesvol ontwikkel.
Wanneer rekenaarkrag teen so 'n verstommende tempo groei, is die ontwikkeling van kunsmatige intelligensie soos om met 'n kragtige steroïde ingespuit te word, wat na 'n heel nuwe vlak spring. Aangesien die aantal aanlynrekenaars aanhou toeneem, het ons ongekende versnelde ontwikkeling gesien. Eintlik het ek nog nooit enige tegnologie sien groei so vinnig soos kunsmatige intelligensie nie. Alhoewel ek baie vinnig ontwikkelende tegnologieë gesien het, verstom die opkoms van kunsmatige intelligensie my steeds. Soos ek gesê het, dink ek egter dat die finale resultaat waarskynlik positief sal wees.
Alhoewel ons baie uitdagings in die gesig staar, soos hoe om menslike relevansie in hierdie veld te behou en hoe om nuwe doelwitte en betekenisse te vind, dink ek dit is 'n oorvereenvoudiging om te oorbeklemtoon dat rekenaars goed in alles kan wees.
Soos jy vroeër genoem het, dink ek jou boek se voorspellings oor toekomstige samelewing is baie akkuraat. Dit is 'n era van materiële oorvloed, waar goedere en dienste so volop sal wees dat dit amper binne bereik is vir almal. Weens die wydverspreide toepassing van kunsmatige intelligensie en robotika-tegnologie sal die koste van goedere en dienste byna tot nul verminder word. Die ekonomie is in wese die produk van bevolkingsgrootte en gemiddelde produktiwiteit per persoon. Wanneer ons gevorderde robotika-tegnologie het, soos Tesla se Optimus, sal die ekonomiese potensiaal werklik ontketen word.
Tesla se motors, as robotte op vier wiele, het reeds sterk vermoëns getoon. Die jongste weergawe met ten volle outonome bestuursvermoëns sal na verwagting end-tot-end-beheer bewerkstellig op grond van kunsmatige intelligensie, wat die motor 'n werklik intelligente robot op wiele maak. Tesame met die ontwikkeling van menslike robotte, is die moontlikheid van ekonomiese uitset byna onbeperk.
Vanuit 'n optimistiese perspektief beweeg ons na 'n toekoms van uiterste materiële oorvloed, wat ek glo die mees waarskynlike uitkoms is. Ek dink die enigste moontlike skaarste in die toekoms sal die skaarste wees wat ons kunsmatig skep, soos sekere unieke kunswerke of spesifieke items. Maar behalwe dit, sal enige goedere en dienste uiters volop word.
Diamandis: Jy is 'n persoon wat die toekoms deur praktiese aksies kan vorm en 'n skerp insig het in toekomstige tendense. Met die vinnige ontwikkeling van huidige tegnologie in die gesig staar, is ek baie nuuskierig oor hoe ver in die toekoms jy dink jy kan insig kry, dit wil sê hoeveel jaar van ontwikkelingstendense van nou af?
Musk: In 'n era van vinnige verandering word die vermoë om die toekoms te voorspel al hoe belangriker. Alhoewel die toekoms vol onsekerheid is, glo ek dat sommige tendense duidelik sigbaar is. Ons sal die era van kunsmatige intelligensie inlui, en sy vermoëns sal menslike vlakke bereik of selfs oortref in enige kognitiewe taak. Dit is net 'n kwessie van tyd. Mense kan verskillende sienings hê oor of dit die einde van volgende jaar, twee jaar of drie jaar sal wees. Een ding is egter seker, dit wil sê, dit sal nie langer as vyf jaar wees nie. My voorspelling is gebaseer op 'n 50% waarskynlikheid, wat nie absoluut is nie. Maar volgens my oordeel sal kunsmatige intelligensie waarskynlik die vermoëns van enige individuele mens in sekere aspekte oortref voor die einde van volgende jaar.
Wat betref of dit menslike kollektiewe wysheid oortref, kan dit langer neem. As die tempo van verandering voortduur, skat ek dat rondom 2029 of 2030, digitale intelligensie waarskynlik die som van alle menslike intelligensie sal oortref. Wanneer ek na hierdie kwessies kyk, is ek geneig om die metode van basiese verhoudings aan te neem, net soos die eerste beginsels in fisika. Deur hierdie metode met waarskynlikheidsanalise te kombineer, kan ons toekomstige ontwikkelingstendense meer akkuraat begryp.
As ons die vermoëns van digitale rekenaars met biologiese rekenaars vergelyk, en alle menslike gevorderde kognitiewe vermoëns optel as 'n soort rekenaarkrag, en dit dan met digitale rekenaarkrag vergelyk, sal jy vind dat die groeikoers van hierdie verhouding verstommend is. Daarom glo ek dat 2029 of 2030 'n redelike tydnodus is. Op daardie tydstip sal die opgehoopte digitale rekenaarkrag waarskynlik die opgehoopte biologiese rekenaarkrag van gevorderde breinfunksies oortref. Sedertdien sal die gaping tussen die twee steeds groter word, en daar sal geen moontlikheid wees om te vernou nie.
Wanneer ons egter by hierdie beginpunt staan en uitsien na die toekoms, hoe gaan dinge verder ontwikkel? Om eerlik te wees, ek kan nie al die besonderhede voorsien nie. Maar as ons groeifaktore en die beperkende faktore wat hulle in die gesig staar in ag neem, sal ons 'n paar interessante leidrade vind.
Verlede jaar was chip-toevoerbeperkings die belangrikste beperkende faktor vir KI-ontwikkeling. Vanjaar sal aftraptransformators 'n belangrike bottelnek word. Stel jou voor dat jy 'n spanning van 300 kilovolt verminder tot minder as 1 volt wat deur 'n rekenaar benodig word. Dit is 'n groot uitdaging. Daarom het ons meer doeltreffende "Transformators vir Transformators" nodig, wat afneem transformators of KI neurale netwerk transformators is. Dit is inderdaad 'n groot probleem vanjaar.
As ons vorentoe kyk na die volgende paar jaar, kan elektrisiteitsvoorsiening 'n groot beperkende faktor word. Kunsmatige intelligensie het 'n groot vraag na elektrisiteit, en die oorgang na volhoubare energie en die gewildheid van elektriese voertuie het ook die vraag na elektrisiteit versterk. Daarom moet ons ernstig oorweeg hoe om aan die groeiende vraag na elektrisiteit te voldoen om die voortdurende ontwikkeling en toepassing van hierdie tegnologieë te verseker.