Әскери сарапшылар автономды қаруды немесе автономды қару -жарақ жүйесін (AWS) қару түрлерін атайды, олар бәрін өзі жасайды: олар мақсатты табады және адамның қатысуынсыз тапсырманы орындайды. Ең әйгілі, әзірге тек фантастикалық фильмдер мен AWS кітаптарында «өлтіруші роботтар» деп аталады.
Илон Маск және робототехниканың жүзден астам мамандары БҰҰ -ға ашық ескерту хатында өлтіруші роботтардың өлім қаупі туралы жазады. Маск, Мұстафа Сулейман, қазіргі уақытта Google -ге тиесілі AI DeepMind Technologies компаниясының негізін қалаушы және 26 елден келген 114 сарапшы БҰҰ -ға AWS -тегі қару -жарақ жарысы Pandora қорабын ашуы мүмкін екенін ескертеді. адамзатқа үлкен зиян. Олар автономды қару жүйесін әзірлеуге және енгізуге тыйым салуды талап етеді.
Барлық қол қоюшылар бұл мәселені жақсы біледі, себебі олар жасанды интеллект (AI) саласында жұмыс істейді. Олар дамыған елдердің армиясының қару -жарағына өлтіруші роботтарды енгізудің әскери істердегі бірінші және екінші революция деп ататын оқ пен ядролық қаруды ойлап тапқандай маңызды болатынына сенімді. AWS үшінші революция болады деп сенеді.
«Автономды қару -жарақ жүйесі жоғары деңгейге көтерілгеннен кейін әскери қақтығыстарды адамзат бұрын -соңды көрмеген дәрежеге жеткізеді», - делінген ұжымдық хатта. - Оның үстіне, бұл үлкен жылдамдықпен болады. AWS террордың қаруына айналуы мүмкін, деспоттар мен террористер бейбіт тұрғындарға қарсы қолданатын қаруға айналуы мүмкін … »
Хат авторлары адамдардың қатысуынсыз адамдарды жоя алатын әлі де гипотетикалық қару туралы ескертеді. Бұл фантастика санатынан қатал шындыққа айналатын күн жақын және бізді осындай күрделі жүйелерді қауіпсіз басқарудан «темір» қатыгездік пен болжауға болмайтын моральдық -этикалық мәселелерге дейін көптеген күрделі сұрақтарға жауап іздеуге мәжбүр етеді. өлімге әкелетін машиналардан.
Маск AWS -тің адамзатқа қауіптілігі туралы өз ұстанымымен бөлісетін жақтастарымен ой жүгіртуге және талқылауға уақыт жоқ екенін және дереу әрекет ету керектігін айтады. «Бізде уақыт өте аз», - деп жазады олар БҰҰ -да. «Пандораның қорабы ашылғаннан кейін оны жабу өте қиын болады».
Ашық хат жазу уақыты кездейсоқ таңдалған жоқ. Сарапшылар Мельбурнде Халықаралық жасанды интеллект конференциясының (IJCAI) басталуымен тұспа -тұс келгісі келді. Ол 21 тамызда дүйсенбіде ашылуы керек еді, бірақ БҰҰ оны қарашаға қалдыруды шешті.
Ашық хаттың соңында Илон Маск және оның әріптестері БҰҰ -ны планетаны өлтіруші роботтардан қорғау үшін қараша айына дейін стратегия құруға күш салуға шақырады.
Бұған дейін Масктың өзі жасанды интеллектпен жұмыс істеудің қауіптілігі туралы ескерткен, өйткені оған негізделген жүйелер адам бақылауынан шыға алады. Бұл ретте Tesla электр қозғалтқыштары бар автомобильдер қазірдің өзінде АҚШ -тың жолдарында ұшқышсыз режимде жүреді, бұл апатсыз болмайды.
