Компатибилно са људима
_book_cover.jpg) Тврдокорично издање | |
| Настанак | |
|---|---|
| Ориг. наслов | ' |
| Аутор | Стјуарт Џ. Расел |
| Земља | Сједињене Државе |
| Језик | Енглески |
| Садржај | |
| Жанр / врста дела | Нефикција |
| Тема | Проблем контроле VI |
| Издавање | |
| Издавач | Викинг |
| Датум издавања | 8. октобар 2019 |
| Број страница | 352 |
| Класификација | |
| ISBN ? | 978-0-525-55861-3 |
| OCLC ? | 1083694322 |
Компатибилно са људима: Вештачка интелигенција и проблем контроле је нефиктивна књига из 2019. компјутерског научника Стјуарта Џ. Расела. У њој се тврди да ризик по човечанство од напредне вештачке интелигенције (VI) представља озбиљну забринутост упркос неизвесности око будућег напретка у вештачкој интелигенцији. Такође предлаже приступ проблему контроле вештачке интелигенције.
Преглед
[уреди | уреди извор]Расел почиње тврдњом да је стандардни модел истраживања вештачке интелигенције, у којем примарна дефиниција успеха постаје све боља и боља у постизању ригидних циљева које су одредили људи, опасно погрешан. Такви циљеви не одражавају оно што људски дизајнери намеравају, на пример, не узимају у обзир људске вредности које нису укључене у циљеве. Ако би вештачка интелигенција развијена према стандардном моделу постала суперинтелигентна, вероватно не би у потпуности одражавала људске вредности и могла би бити катастрофална за човечанство. Расел тврди да управо зато што је временски оквир развоја вештачке интелигенције на људском нивоу или суперинтелигентне VI веома неизвестан, истраживање безбедности треба започети што је пре могуће, јер је такође веома неизвесно колико би времена требало да се заврши такво истраживање.
Расел тврди да је континуирани напредак у способностима вештачке интелигенције неизбежан због економских притисака. Такви притисци се већ могу видети у развоју постојећих технологија вештачке интелигенције као што су аутомобили који се сами возе и софтвер за личне асистенте. Штавише, вештачка интелигенција на људском нивоу могла би да вреди много трилиона долара. Расел затим испитује тренутну дебату око ризика од вештачке интелигенције. Он побија бројне уобичајене аргументе који одбацују ризик од вештачке интелигенције и приписује велики део њихове упорности трибализму — истраживачи вештачке интелигенције могу да виде забринутост због АИ ризика као „напад“ на њихову област. Расел понавља да постоје легитимни разлози да се озбиљно схвати забринутост због VI ризика и да економски притисци чине наставак иновација у VI неизбежним.
Расел затим предлаже приступ развоју доказано корисних машина које се фокусирају на поштовање према људима. За разлику од стандардног модела АИ, где је циљ ригидан и известан, овај приступ би довео до тога да прави циљ вештачке интелигенције остане неизвестан, при чему се VI само приближава сигурности у погледу тога, јер добија више информација о људима и свету. Ова неизвесност би, у идеалном случају, спречила катастрофалне неспоразуме о људским преференцијама и подстакла сарадњу и комуникацију са људима. Расел закључује позивајући на строжије управљање истраживањем и развојем вештачке интелигенције, као и на културну интроспекцију о одговарајућој количини аутономије коју треба задржати у свету којим доминира вештачка интелигенција.
Раселова три принципа
[уреди | уреди извор]Расел наводи три принципа за вођење развоја корисних машина. Он наглашава да ови принципи немају за циљ да буду експлицитно кодирани у машине; него су намењени људским програмерима. Принципи су следећи:[1]:173
1. Једини циљ машине је да максимизира реализацију људских преференција.
2. Машина је у почетку несигурна у вези са тим преференцијама.
3. Крајњи извор информација о људским преференцијама је људско понашање.
„Преференце“ на које Расел упућује „су свеобухватне; оне покривају све до чега вам је можда стало, произвољно далеко у будућност.“[1]:173 Слично, „понашање“ укључује било који избор између опција,[1]:177 и неизвесност је таква да се нека вероватноћа, која може бити прилично мала, мора приписати сваком логички могућем људском избору.[1]:201
Расел истражује инверзно подржано учење, у којем машина закључује функцију награде из уоченог понашања, као могућу основу за механизам за учење људских преференција.[1]:191–193
Пријем
[уреди | уреди извор]Неколико рецензената сложило се са аргументима књиге. Ијан Сампл у Тхе Гуардиану назвао ју је „убедљивом“ и „најважнијом књигом о вештачкој интелигенцији ове године“.[2] Ричард Вотерс из Фајнаншал Тајмса похвалио је књигу „охрабрујућу интелектуалну строгост“.[3] Киркус Ревиеwс је то подржао као „снажан аргумент за планирање дана када нас машине могу надмудрити“.[4]
Исти рецензенти окарактерисали су књигу као „врлоглаву и духовиту“,[2] или „приступачну“[4] због „лаконичног стила и сувог хумора“.[3] Метју Хатсон из Вол Стрит журнала је рекао да „узбудљива књига господина Расела иде дубоко док блиста сувим духовитостима“.[5] Рецензент из Либрарy Јоурнал назвао ју је „Прави водич у право време“.[6]
Џејмс Маконачи из Тајмса је написао: „Ово није баш популарна књига која је хитно потребна вештачкој интелигенцији. Њени технички делови су претешки, а филозофски превише лаки. Али је фасцинантна и значајна.“[7]
Насупрот томе, Компатибилно са људима је критикован у прегледу који је у часопосу Натуре објавио Дејвид Лесли, сарадник за етику на Институту Алан Тјуринг; и слично у становишном есеју Њујорк Тајмса аутора Мелани Мичел. Једна тачка спора је била да ли је суперинтелигенција могућа. Лесли каже да Расел „не успева да убеди да ћемо икада видети долазак ’друге интелигентне врсте‘“,[8] а Мичел сумња да би машина икада могла „премашити општост и флексибилност људске интелигенције“ а да не изгуби „брзину, прецизност, и програмабилност рачунара“.[9] Друго неслагање је било да ли ће интелигентне машине природно тежити да усвоје такозване моралне вредности „здравог разума”. У Раселовом мисаоном експерименту о роботу геоинжењеринга који „гуши човечанство да би раскиселио океане“, Лесли се „има потешкоћа да идентификује било какву интелигенцију“. Слично, Мичел верује да би интелигентни робот природно имао тенденцију да буде „ублажен здравим разумом, вредностима и друштвеним расуђивањем без којих општа интелигенција не може постојати“.[10][11]
Књига је била на листи за Фајнаншал Тајмс/Макинсеј награду за 2019. годину.[12]
Референце
[уреди | уреди извор]- ^ а б в г д Русселл, Стуарт (8. 10. 2019). Хуман Цомпатибле: Артифициал Интеллигенце анд тхе Проблем оф Цонтрол
. Унитед Статес: Викинг. ИСБН 978-0-525-55861-3. ОЦЛЦ 1083694322.
- ^ а б Сампле, Иан (24. 10. 2019). „Хуман Цомпатибле бy Стуарт Русселл ревиеw – АИ анд оур футуре”. Тхе Гуардиан.
- ^ а б Wатерс, Рицхард (18. 10. 2019). „Хуман Цомпатибле — цан wе кееп цонтрол овер а суперинтеллигенце?”. www.фт.цом. Приступљено 23. 2. 2020.
- ^ а б „ХУМАН ЦОМПАТИБЛЕ | Киркус Ревиеwс”. Киркус Ревиеwс (на језику: енглески). 2019. Приступљено 23. 2. 2020.
- ^ Хутсон, Маттхеw (19. 11. 2019). „'Хуман Цомпатибле' анд 'Артифициал Интеллигенце' Ревиеw: Леарн Лике а Мацхине”. Тхе Wалл Стреет Јоурнал.
- ^ Хахн, Јим (2019). „Хуман Цомпатибле: Артифициал Интеллигенце анд тхе Проблем оф Цонтрол”. Либрарy Јоурнал. Приступљено 23. 2. 2020.
- ^ МцЦоннацхие, Јамес (6. 10. 2019). „Хуман Цомпатибле бy Стуарт Русселл ревиеw — ан АИ еxперт'с цхиллинг wарнинг”. Тхе Тимес.
- ^ Леслие, Давид (02. 10. 2019). „Рагинг роботс, хаплесс хуманс: тхе АИ дyстопиа”. Натуре (на језику: енглески). 574 (7776): 32—33. Бибцоде:2019Натур.574...32Л. дои:10.1038/д41586-019-02939-0.
- ^ Митцхелл, Мелание (31. 10. 2019). „Опинион | Wе Схоулдн'т бе Сцаред бy 'Суперинтеллигент А.I.'”. Тхе Неw Yорк Тимес (на језику: енглески). ИССН 0362-4331. Приступљено 18. 07. 2023.
- ^ Леслие, Давид (2. 10. 2019). „Рагинг роботс, хаплесс хуманс: тхе АИ дyстопиа”. Натуре. 574 (7776): 32—33. Бибцоде:2019Натур.574...32Л. дои:10.1038/д41586-019-02939-0.
- ^ Митцхелл, Мелание (31. 10. 2019). „Wе Схоулдн'т бе Сцаред бy 'Суперинтеллигент А.I.'”. Тхе Неw Yорк Тимес.
- ^ Хилл, Андреw (11. 8. 2019). „Бусинесс Боок оф тхе Yеар Аwард 2019 — тхе лонглист”. www.фт.цом. Приступљено 23. 2. 2020.
