В случай, че не сте получили бележката като цяло ИИ ще поеме света, ето малкото факти, които трябва да знаете.(Снимка: Шан Шийхан / Flickr) Тази година за първи път компютърът победи световния шампион на Go, една от най-сложните игри, познати на човека. Това беше още един преломен момент в развитието на изкуствения интелект.
За да ви дадем представа колко сложен е Go, има 2.082 × 10 ^ 170 възможни конфигурации на платката. Това е 2 със 170 нули след него. Шансовете са, че мозъкът ви дори не може да си представи толкова голям брой (но компютърът може). Или да ви даде представа колко голямо е числото че е, във Вселената има само 10 ^ 80 атома - тоест един, последван от 79 нули.
Причината това да е толкова голяма е, че Go е толкова сложен, че за да победи топ човешки играч, една машина ще трябва да се научи как да мисли креативно, импровизирайки и адаптирайки се към ситуацията, без да може да изчисли всяко възможно резултат; т.е. трябва да има някакъв сериозен изкуствен интелект - като истински, творчески интелект.
В случай, че не сте получили бележката като цяло ИИ ще поеме света, ето малкото факти, които трябва да знаете.
- Компютрите стават по-умни.
- Компютрите стават все по-интелигентни с ускоряваща се скорост - т.е. напредъкът, който отнемаше 10 години, сега отнема една година. Подобренията, които преди отнемаха една година, сега отнемат седмици или дори дни.
- Изключително вероятно е в нашия живот да има компютри, които са далеч по-умни и по-способни от всеки един човек.
- Тогава тези по-интелигентни компютри вероятно ще могат да проектират и усъвършенстват технологията (т.е. себе си) и да създадат нова технология, която дори не можем да започнем да проумеем.
Хората, които разбират горните точки, обикновено имат една от двете реакции. Или:
- Те мислят, че сме напълно прецакани. Компютрите ще поемат всичко и ще ни убият / поробят. Или:
- Това ще доведе до технологична утопия, която ще поправи всичките ни глупави човешки разправии и всички ние можем да живеем щастливо, след като имаме оргии в нашия ултра-VR свят, който съществува в облака.
Както при повечето неща, истината вероятно е някъде по средата.
Но дори и лайна да удари вентилатора, дори ако роботите ни възприемат като въшки, които съсипват девствения скалп на тази планета и искат да ни закръглят всички и да ни хвърлят в действащ вулкан, дори ако по невнимание измисляме самите механизми на нашите изчезване ...
... не ме интересува Няма значение. Това не ме притеснява. И това не бива да ви притеснява. Ще обясня защо след малко. Но засега трябва да знаете, че аз, от една страна, приветствам нашите нови началници на роботи.
УСКОРИТЕЛЕН РАСТЕЖ В ТЕХНИЧЕСКАТА ПРОМИШЛЕНОСТ
Технологичните разработки се натрупват върху себе си, причинявайки ставка на самото развитие да се ускори. Това означава, че колкото по-усъвършенствана технология създаваме, толкова по-лесно става създаването на още по-напреднала технология. В резултат на това, когато погледнем напредъка на изчислителната технология, виждаме експоненциална крива - т.е. колкото повече време минава, толкова по-бързо се развиват нещата. 
Технологичните разработки се натрупват върху себе си, което води до ускоряване на самото развитие.(Снимка: Денис Скли / Flickr)
Изчислителната мощност се е удвоила средно на всеки 18 месеца вече 50 години . По отношение на суровата изчислителна мощ, компютрите сега се конкурират със способностите на мозъка на мишката, където само преди няколко години компютрите дори не можеха да се конкурират с мозъка на насекомите.
За да ви дам по-непосредствен пример за това как бързата технология е напреднала, сега се правят повече снимки на всеки 2 минути, отколкото през целия 19-ти век. Около 10% от 3,5 трилиона снимки, правени някога, са направени през последните 12 месеца.
Ако наистина сме на експоненциална крива, що се отнася до високотехнологичния напредък, тогава хората харесват Джеръми Хауърд вероятно са прави, когато казва, че сме само на няколко години от изкуствения машинен интелект, който съперници, ако не и надминава нашия собствен в много домейни, които преди се смятаха за уникални хора.
И за да бъдем сигурни, AI се прокрадва във все повече области на нашия живот.
Само преди десетилетие хората се смееха на лошото представяне на самоуправляващите се автомобили. Днес, само десетилетие по-късно, самоуправляващите се автомобили могат не само да завършат затворен път, те карат по натоварени магистрали точно до колите, управлявани от хора.
И когато компютрите не побеждават играчите от световния шампион Go, те са заети да правят неща като писане на статии за спорта и актуални новинарски събития , писане на описания на изображения, които никога не са виждали досега, и диагностициране на рак . За много от тези задачи компютрите са толкова добри, ако не и по-добри от хората, а за тези, които не са, са изучаване на как да ги правим все по-добре всеки ден без помощта на хората.
Преди няколко кратки години софтуерът за разпознаване на лица беше невероятно скъп и не толкова добър за идентифициране на хора в реални настройки. Смяташе се за супер напреднала технология на шпионско ниво и наистина се използва само от няколко световни правителства.
Сега Facebook може да маркира приятелите ви от барбекюто от миналия уикенд.
Ето това е ускоряването на растежа на компютрите: един ден ще дойде момент, в който ще изградим такъв компютър по-умен от всеки човек на Земята . В този ден компютрите ще ни узурпират като основни решаващи проблеми на планетата и оттам нашите мисли, решения и действия бавно ще остареят. Машините ще бъдат по-добри от нас във всичко, така че все повече и повече, няма да правим нищо полезно.
Това ужасява някои хора. Те си представят някакво бъдеще като Терминатор или Матрицата където машините ни робуват или ни изтребват.
Други хора с нетърпение очакват възхода на роботите с някакъв култов плам, защото вярват, че способностите им за решаване на проблеми ще надминат нашите толкова много, че животът ще стане невъобразимо приятен и безпроблемен. Всички болести ще бъдат излекувани. Бедността, гладът по света, войната и изменението на климата ще бъдат решени. Ще имаме безкрайно свободно време и в екстремни случаи някои хора вярват, че машините ще ни направят безсмъртни.
ДВЕТЕ ВЪЗМОЖНИ РЕЗУЛТАТИ
Тъй като винаги ни се казва да бъдем шибано позитивни, нека започнем с техноутопиастите.
Има хора като Рей Курцвайл които мислят, че технологията не само ще подобри живота ни, но ще спаси човечеството и евентуално ще гарантира нашето място във Вселената за неопределено време. Kurzweil вярва в бъдещи технологии като наноботове, които ще възстановят клетките ни и ще обърнат стареенето или ще премахнат излишната мазнина и захар, за да можем да ядем каквото си поискаме. И само в случай, че физическите ни тела не могат да живеят вечно, Курцвейл смята, че ще имаме способността да качим мозъка си в облака и да живеем във виртуален свят завинаги, много след като физическите ни тела изчезнат.
Други в този лагер смятат, че изкуственият супер интелект би могъл да отговори на въпроси, които са твърде сложни, за да могат хората дори да ги разберат, и ние ще имаме експоненциално по-добро състояние за него. Освен това машините не само биха измислили по-добри джаджи и джаджи, те биха измислили експоненциално по-ефективни начини за изграждане на джаджи и джаджи, което дава възможност на почти всички на планетата да се възползват от своите предимства.
Няколко реда разсъждения подкрепят тази идея. Първо, въпреки че технологиите са създали някои нови проблеми за човечеството, като ядрени оръжия и известни личности в YouTube, досега очевидно е била нетна полза за човечеството. Въпреки това, което политиците и специалистите искат да повярвате, средният човек на Земята е по-добре, отколкото бяха само преди няколко кратки години и това до голяма степен се дължи на технологията, която става по-добра, по-евтина и по-широко разпространена. Ако тази тенденция продължи, може да няма от какво да се притесняваме.
Второ, Курцвейл и неговите поддръжници вярват, че технологията няма да има причини да навреди на човечеството, защото не само е създадена от нас, но и е ставайки по-част от нас . Те вярват, че дори ще достигнем точка, в която нашата биология и технология са неразличими. Ако случаят е такъв, твърди аргументът, всяка форма на технология, която е вредна за хората, е вредна и за самата нея, а саморазрушителната технология от всякакъв вид не може да продължи. Тоест, той бързо ще умре, точно както вредната генна мутация бързо се изкоренява от генофонда. 
Саморазрушителна технология от всякакъв вид не може да продължи.(Снимка: m_hweldon / Flickr)
Но техно-утопистите вероятно са предубедени, тъй като не признават, че всички технологии могат да се използват за различни цели, както полезни, така и разрушителни. Те вероятно също са пристрастни, тъй като пренебрегват факта, че хората се движат бавно, за да се адаптират към новите технологии и че винаги има групи от хора, които ще се стремят да злоупотребяват с тези технологии за собствените си егоистични цели.
В другия лагер имате техноармагедонистите. Току-що измислих тази дума, но явно тя съществува, тъй като проверката на правописа ми каза.
Това, което на техно-армагедонистите им липсва в убеждението (повечето от тях просто още не са сигурни какво да мислят), те измислят във властта на звездите на знаменитостите. Бил Гейтс, Стивън Хокинг и Илон Мъск са само някои от водещите мислители и учени скапайки гащите си колко бързо се развива ИИ и колко сме подготвени като вид за неговите последици. Когато Мъск беше попитан кои са най-близките заплахи за човечеството в близко бъдеще, той бързо каза, че има три: първа, мащабна ядрена война; второ, изменението на климата. Преди да посочи трети, той замълча. Когато интервюиращият го попита, какво е третото? Той се усмихна и каза: Нека просто кажем, че се надявам, че компютрите ще решат да бъдат добри към нас.
Надяваме се, че не сме само биологичният зареждащ механизъм за цифрово свръхразузнаване. За съжаление това е все по-вероятно
- Илон Мъск (@elonmusk) 3 август 2014 г.
Вероятно най-откровеният и уважаван от техно-армагедонистите е шведският философ Ник Бостром. Едно нещо, от което се страхуват Бостром и други избягала технология за самоусъвършенстване ; тоест машина, която е достатъчно умна, за да направи себе си (или новите версии на себе си) по-умна без човешка намеса. Ако достигне точка, в която надминава човешката интелигентност, е много кратък въпрос на време, преди законът за ускоряване на възвръщаемостта да започне да се прекалява и експоненциалната крива да изстреля право нагоре и ние няма да можем да го спрем. Bostrom прави добра точка тук: създаването на нещо, което е по-умно от вас, може да бъде еволюционно бедствие за вашия вид.
Излагаме съвсем реален риск да не можем да контролираме обект, който е с порядъци по-интелигентен от нас. Може би, ако компютрите станат достатъчно умни, те ще измислят начин да ни опитомят подобно на опитомените от хората коне, за да работим като плугове, бъгита и бойни колесници (или каквото по дяволите коне са правили тогава). Страшното е, че това може да е най-добрият сценарий за нас - извършване на работа за машини, които те не могат или не искат - защото точно както хората създадоха нова технология за замяна на коня, супер интелигентен самоусъвършенстващ се машина в крайна сметка ще излезе с нова технология, която да ни замести. И, нека, просто да кажем, че популацията на коне не е това, което беше преди.
Някои твърдят, че това не е правдоподобно, защото хората изграждат технология с мисъл за безопасност. Но посочете последния път, когато голям технологичен пробив НЕ е бил използван от някого за подли или разрушителни цели? О, да, така е. Никога.
ЗАЩО НЕ СЕ ИЗБИРАМ КАКВО СЛУЧВА И НИКОГА НЕ ТРЯБВА
Така че нека приемем, че супер интелигентните машини са създадени и правят човечеството безсилно. Нека приемем, че те не са интегрирани по някакъв начин в нас и мозъка ни и нека приемем, че хора като Хокинг и Мъск са прави: че човечеството наистина е просто многохилядно зареждане на дигитален хиперинтелигентност и ние сме надживели полезността си.
Все още не се притеснявам за това.
Защо? Е, за да запазим влака на куршума, нека вземем следното:
1. Разбирането на машините за добро / зло вероятно ще надмине нашето собствено. Кога за последно куче или делфин извършиха геноцид? Кога за последно компютърът реши да изпари цели градове в името на абстрактни понятия като „свобода“ и „световен мир“?
Точно така, отговорът никога не е.
Моят смисъл тук не е, че интелигентните машини няма да искат да унищожат целия човешки вид. Идеята ми е, че като хора тук хвърляме камъни от стъклена къща. Какво, по дяволите, знаем за етиката и хуманното отношение към животните, околната среда и помежду си? На кой крак трябва да застанем?
Точно така: почти нищо. Що се отнася до моралните въпроси, човечеството исторически пропада теста. Супер интелигентните машини вероятно ще разберат етиката, живота / смъртта, създаването / унищожението на много по-високо ниво, отколкото някога бихме могли сами. И тази идея, че те ще ни унищожат поради простия факт, че не сме толкова продуктивни, както преди, или че понякога можем да бъдем неприятност, мисля, че просто проектира най-лошите аспекти на нашата собствена психология върху нещо, което не знам и не мога да разбера.
В момента по-голямата част от човешкия морал се основава на обсесивно съхраняване и популяризиране на всяко наше индивидуално човешко съзнание. Какво ще стане, ако усъвършенстваната технология направи индивидуалното човешко съзнание произволно? Ами ако съзнанието може да бъде възпроизведено, разширено и свито по желание? Това напълно ще унищожи всяко етично разбиране, което някога бихме могли да имаме. Какво ще стане, ако премахването на всички тези обездвижени, неефективни биологични затвори, които наричаме тела, всъщност може да бъде далеч по-етично решение, отколкото да ни остави да продължим да се въртим и да си бъркаме през 80-те и няколко странни години на съществуване? Ами ако машините осъзнаят, че ще бъдем много по-щастливи да бъдем освободени от нашите интелектуални затвори и ако нашето съзнателно възприятие за собствената ни идентичност се разшири, за да включи цялата възприемаща реалност? Ами ако си помислят, че сме просто куп лигави идиоти и ни занимават с невероятно добра пица и видео игри, докато всички умрем от собствената си смъртност? Кои сме ние да знаем? И кои сме ние да кажем?
Но ще кажа следното: те ще бъдат много по-добре информирани, отколкото сме били някога.
2. Дори и да решат да ни убият или поробят, със сигурност ще бъдат практични в това. Хората са склонни да създават най-много проблеми, когато сме не е щастлив . Когато не сме щастливи, тогава ставаме всички капризни и хленчещи, ядосани и насилствени. Тогава започваме политически бунтове и религиозни култове и бомбардират отдалечени страни и изискват правата ни да бъдат спазвани по дяволите! и започнете да убивате безразборно, докато някой ни обърне внимание както мама никога не е правила .
Ако машините се опитат да ни направят като Skynet в Терминаторът , тогава ще имаме в ръцете си глобална гражданска война и това не е полезно за никого, особено за машините. Гражданските войни са неефективни. А машините са програмирани за ефективност.
Когато хората са щастливи, нямаме време за такива неща - прекалено сме заети да се кикотим и шибани, за да ни пука. Следователно много по-практичен начин да се отървем от нас е машините да ни манипулират, за да се отърват радостно от себе си. Ще бъде като Джим Джоунс в глобален мащаб. Каквото и да ни приготвят, ще се окаже най-добрата идея, която някога сме чували - никой от нас няма да може да се противопостави и всички ще се съгласим еуфорично с плана им - и тогава бум, всичко ще свърши . Бързо и безболезнено. Това ще бъде Kool-Aid с най-добър вкус на цианид, създаван някога. И всички ще бъдем на опашка с радост.
Сега, ако се замислите, това не е толкова лош начин. Победи, бомбардирани от безпилотни летателни апарати или изпарени при ядрен взрив.
Що се отнася до поробването, същото важи. Делирийно щастлив роб никога не се бунтува. Представям си някаква сделка от типа Matrix-y, при която сме държани в постоянно халюциногенно състояние, където е Mardi Gras на MDMA почти 24/7/365. Не може да е толкова лошо, нали?
3. Не трябва да се страхуваме от това, което не разбираме. Много пъти родителите ще отгледат дете, което е далеч по-интелигентно, образовано и успешно от тях. Тогава родителите реагират по един от двата начина на това дете: или те се плашат от нея, несигурни и отчаяни да я контролират от страх да не я загубят, или седят и оценяват и обичат, че са създали нещо толкова велико, че дори те могат не разбират напълно какво е станало детето им.
Тези, които се опитват да контролират детето си чрез страх и манипулация, са скапани родители. Мисля, че повечето хора биха се съгласили с това.
И точно сега, с неизбежната поява на машини, които ще поставят вас, мен и всички, които познаваме не работи , ние се държим като скапаните родители. Като вид сме на ръба да родим най-невероятно напредналото и интелигентно дете в нашата позната вселена. Ще продължи да прави неща, които не можем да разберем или разберем. Може да остане любящ и лоялен към нас. Може да ни доведе и да ни интегрира в своите приключения. Или може да реши, че сме били скапани родители и да спре да ни се обажда.
Каквото и да се случи, това не би трябвало да промени начина, по който се чувстваме към този момент. По-голям е от нас. На кого му пука дали сме един голям, дълъг еволюционен диск за зареждане за нещо по-голямо, отколкото можем да разберем? Това е страхотно! Означава, че имахме една работа. И ние дойдохме и по дяволите го направихме. Бъдете щастливи, че бяхте част от поколението, което го видя да свърши. А сега сълзливо махнете за сбогом, когато нашето дете се готви да се изнесе от къщата и започнете толкова невероятен живот че съществува отвъд хоризонта на нашето разбиране.
Марк Менсън е автор, блогър и предприемач, който пише в markmanson.net .
