Безбедност вештачке интелигенције
Безбедност вештачке интелигенције је интердисциплинарна област која се бави спречавањем несрећа, злоупотреба или других штетних последица које би могле бити резултат система вештачке интелигенције (VI). Она обухвата машинску етику и усклађивање вештачке интелигенције, који имају за циљ да системе вештачке интелигенције учине моралним и корисним. Безбедност вештачке интелигенције обухвата техничке проблеме, укључујући системе за праћење ризика, чинећи их високо поузданим. Осим истраживања вештачке интелигенције, ова област обухвата развој норми и политика које промовишу безбедност.
Мотивације
[уреди | уреди извор]Истраживачи вештачке интелигенције имају веома различита мишљења о озбиљности и примарним изворима ризика које представља технологија вештачке интелигенције[1][2][3] – иако анкете сугеришу да стручњаци озбиљно схватају ризике великих последица. У две анкете истраживача вештачке интелигенције, средишњи испитаник је био оптимиста по питању вештачке интелигенције у целини, али је дао 5% вероватноће за „изузетно лош (нпр. изумирање људи)“ исход напредне вештачке интелигенције.[1] У анкети заједнице за обраду природног језика (НЛП) из 2022. године, 37% се сложило или се донекле сложило да је вероватно да одлуке вештачке интелигенције могу довести до катастрофе која је „бар толико лоша као свеопшти нуклеарни рат“.[4] Научници расправљају о тренутним ризицима од критичних грешака система,[5] пристрасности,[6] и надзору омогућеном вештачком интелигенцијом;[7] новим ризицима од технолошке незапослености, дигиталних манипулација[8] и наоружавања;[9] и спекулативним ризицима од губитка контроле над будућим агенатима опште вештачке интелигенције (АГИ).[10]
Неки су критиковали забринутост због АГИ, као што је Ендру Нг који их је 2015. упоредио са „бригом о пренасељености Марса када још нисмо ни крочили на планету“.[11] Стјуарт Џ. Расел са друге стране позива на опрез, тврдећи да је „боље предвидети људску домишљатост него је потценити“.[12]
Референце
[уреди | уреди извор]- ^ а б Граце, Катја; Салватиер, Јохн; Дафое, Аллан; Зханг, Баобао; Еванс, Оwаин (31. 07. 2018). „Виеwпоинт: Wхен Wилл АИ Еxцеед Хуман Перформанце? Евиденце фром АИ Еxпертс”. Јоурнал оф Артифициал Интеллигенце Ресеарцх. 62: 729—754. ИССН 1076-9757. С2ЦИД 8746462. дои:10.1613/јаир.1.11222
. Архивирано из оригинала 10. 02. 2023. г. Приступљено 28. 11. 2022.
- ^ Зханг, Баобао; Андерљунг, Маркус; Кахн, Лаурен; Дрекслер, Ноеми; Хороwитз, Мицхаел C.; Дафое, Аллан (05. 05. 2021). „Етхицс анд Говернанце оф Артифициал Интеллигенце: Евиденце фром а Сурвеy оф Мацхине Леарнинг Ресеарцхерс”. Јоурнал оф Артифициал Интеллигенце Ресеарцх. 71. арXив:2105.02117 . дои:10.1613/јаир.1.12895.
- ^ Стеин-Перлман, Зацх; Wеинстеин-Раун, Бењамин; Граце (2022-08-04). „2022 Еxперт Сурвеy он Прогресс ин АИ”. АИ Импацтс. Архивирано из оригинала 2022-11-23. г. Приступљено 2022-11-23.
- ^ Мицхаел, Јулиан; Холтзман, Ари; Паррисх, Алициа; Муеллер, Аарон; Wанг, Алеx; Цхен, Ангелица; Мадаан, Дивyам; Нангиа, Никита; Панг, Рицхард Yуанзхе; Пханг, Јасон; Боwман, Самуел Р. (26. 08. 2022). „Wхат До НЛП Ресеарцхерс Белиеве? Ресултс оф тхе НЛП Цоммунитy Метасурвеy”. Ассоциатион фор Цомпутатионал Лингуистицс. арXив:2208.12852 .
- ^ Де-Артеага, Мариа (13. 05. 2020). Мацхине Леарнинг ин Хигх-Стакес Сеттингс: Рискс анд Оппортунитиес (ПхД). Царнегие Меллон Университy.
- ^ Мехраби, Нинарех; Морстаттер, Фред; Саxена, Нрипсута; Лерман, Кристина; Галстyан, Арам (2021). „А Сурвеy он Биас анд Фаирнесс ин Мацхине Леарнинг”. АЦМ Цомпутинг Сурвеyс (на језику: енглески). 54 (6): 1—35. ИССН 0360-0300. С2ЦИД 201666566. арXив:1908.09635 . дои:10.1145/3457607. Архивирано из оригинала 23. 11. 2022. г. Приступљено 28. 11. 2022.
- ^ Фелдстеин, Стевен (2019). Тхе Глобал Еxпансион оф АИ Сурвеилланце (Извештај). Царнегие Ендоwмент фор Интернатионал Пеаце.
- ^ Барнес, Бетх (2021). „Рискс фром АИ персуасион”. Лессwронг. Архивирано из оригинала 2022-11-23. г. Приступљено 2022-11-23.
- ^ Брундаге, Милес; Авин, Схахар; Цларк, Јацк; Тонер, Хелен; Ецкерслеy, Петер; Гарфинкел, Бен; Дафое, Аллан; Сцхарре, Паул; Зеитзофф, Тхомас; Филар, Боббy; Андерсон, Хyрум; Рофф, Хеатхер; Аллен, Грегорy C; Стеинхардт, Јацоб; Флyнн, Царрицк (30. 04. 2018). „Тхе Малициоус Усе оф Артифициал Интеллигенце: Форецастинг, Превентион, анд Митигатион”. Аполло-Университy Оф Цамбридге Репоситорy, Аполло-Университy Оф Цамбридге Репоситорy. Аполло - Университy оф Цамбридге Репоситорy. С2ЦИД 3385567. дои:10.17863/цам.22520. Архивирано из оригинала 23. 11. 2022. г. Приступљено 28. 11. 2022.
- ^ Царлсмитх, Јосепх (16. 06. 2022). „Ис Поwер-Сеекинг АИ ан Еxистентиал Риск?”. арXив:2206.13353 .
- ^ „АГИ Еxперт Петер Восс Саyс АИ Алигнмент Проблем ис Богус | НеxтБигФутуре.цом” (на језику: енглески). 04. 04. 2023. Приступљено 23. 07. 2023.
- ^ Дафое, Аллан (2016). „Yес, Wе Аре Wорриед Абоут тхе Еxистентиал Риск оф Артифициал Интеллигенце”. МИТ Тецхнологy Ревиеw. Архивирано из оригинала 2022-11-28. г. Приступљено 2022-11-28.
Литература
[уреди | уреди извор]- Wаллацх, Wенделл; Аллен, Цолин (Новембер 2008). Морал Мацхинес: Теацхинг Роботс Ригхт фром Wронг. УС: Оxфорд Университy Пресс.
- Андерсон, Мицхаел; Андерсон, Сусан Леигх, едс (Јулy 2011). Мацхине Етхицс. Цамбридге Университy Пресс.
- Сторрс Халл, Ј. (Маy 30, 2007). Беyонд АИ: Цреатинг тхе Цонсциенце оф тхе Мацхине Прометхеус Боокс.
- Моор, Ј (2006). Тхе Натуре, Импортанце, анд Диффицултy оф Мацхине Етхицс. ИЕЕЕ Интеллигент Сyстемс, 21(4), пп. 18–21.
- Андерсон, M. анд Андерсон, С. (2007). Цреатинг ан Етхицал Интеллигент Агент. АИ Магазине, Волуме 28(4).
- Хагендорфф, Тхило (2021). „Линкинг Хуман анд Мацхине Бехавиор: А Неw Аппроацх то Евалуате Траининг Дата Qуалитy фор Бенефициал Мацхине Леарнинг”. Миндс анд Мацхинес. 31 (4): 563—593. ПМЦ 8475847 . ПМИД 34602749. дои:10.1007/с11023-021-09573-8.
- Андерсон, Мицхаел; Андерсон, Сусан Леигх, едс (Јулy—Аугуст 2006). „Специал Иссуе он Мацхине Етхицс”. ИЕЕЕ Интеллигент Сyстемс. 21 (4): 10—63. Архивирано из оригинала 26. 11. 2011. г. Проверите вредност парамет(а)ра за датум:
|дате=(помоћ). - Бендел, Оливер (2016). „Цонсидератионс абоут тхе релатионсхип бетwеен анимал анд мацхине етхицс”. АИ & Социетy. 31: 103—108. дои:10.1007/с00146-013-0526-3.
- Дабрингер, Герхард, ед. "„Етхицал анд Легал Аспецтс оф Унманнед Сyстемс. Интервиеwс” (ПДФ). 2010. Архивирано из оригинала (ПДФ) 17. 06. 2012. г.". Аустриан Министрy оф Дефенце анд Спортс, Виенна 2010, ISBN 978-3-902761-04-0.
- Гарднер, А (1987). Ан Артифициал Аппроацх то Легал Реасонинг. Цамбридге, МА: МИТ Пресс.
- Георгес, Т. M (2003). Дигитал Соул: Интеллигент Мацхинес анд Хуман Валуес. Цамбридге, МА: Wествиеw Пресс. ИСБН 978-0-8133-4057-9.
- Сингер, П.W. (Децембер 29, 2009). Wиред фор Wар: Тхе Роботицс Револутион анд Цонфлицт ин тхе 21ст Центурy: Пенгуин.
- Wинфиелд, Алан Ф.; Мицхаел, Катина; Питт, Јеремy; Еверс, Ванесса (2019). „Мацхине Етхицс: Тхе Десигн анд Говернанце оф Етхицал АИ анд Аутономоус Сyстемс [Сцаннинг тхе Иссуе]”. Процеедингс оф тхе ИЕЕЕ. 107 (3): 509—517. дои:10.1109/ЈПРОЦ.2019.2900622.
Додатна литература
[уреди | уреди извор]- Енгинееринг а Сафер Wорлд. ИСБН 9780262533690.