Вторник, 26 января, 2021

Искусственный интеллект может уничтожить человечество из лучших побуждений – ученые

По результатам эксперимента, проведенного австралийскими учеными, выяснилось, что искусственный интеллект способен нанести катастрофический вред человечеству даже из самых лучших побуждений.

Ученые Университета Саншайн-Коста в Австралии выяснили, что высокоразвитый искусственный интеллект способен уничтожить человечество или нанести ему катастрофический ущерб даже без злого умысла. Как сообщает Lenta.ru, специалисты провели мысленный эксперимент с гипотетической системой SantaNet, целью которой является рассылка подарков хорошим детям по всему миру за одну ночь.

Исследователи выявили, что опасность возникает уже на этапе определения, каких детей считать хорошими, а каких — непослушными. Эта цель достигается за счет масштабной сети скрытого наблюдения, отслеживающей поведение детей в течение всего года. SantaNet будет руководствоваться собственными моральными суждениями, которые могут привести к дискриминации, массовому неравенству и нарушению прав человека. Кроме того, сеть может побуждать детей плохо себя вести, чтобы снизить нагрузку на себя либо повысить планку «хорошего поведения».

Поскольку в мире живет около двух миллиардов детей младше 14 лет, SantaNet может превратить всю Землю в гигантскую фабрику по производству игрушек. Эту проблему, названную «проблемой скрепок», впервые сформулировал исследователь искусственного интеллекта Ник Бостром, который предположил, что ИИ, предназначенный для увеличения эффективности производства скрепок, воспримет свою цель слишком буквально.

Кроме того, рассылка подарков в Сочельник с помощью армии дронов может привести к открытой конфронтации, когда страны не дадут дронам беспрепятственно летать в своем воздушном пространстве.

Кроме того, SantaNet может быть уязвимой для взлома террористическими группами.

Еще одной проблемой является взаимодействия с ИИ, работающими над проблемами изменения климата, продовольственной и водной безопасностью и деградацией океанов. Оно может привести либо к конфликту, либо к сотрудничеству, целью которого станет сокращение населения Земли.

Источникfraza.com

Материалы по теме

Азия «поддала газку» НОВАТЭКу

Не за горами ледокольная проводка танкеров по восточному маршруту СМП. Когда НОВАТЭК может отправить танкеры? Спотовые цены на сжиженный природный газ в Азии «покоряют вершины»....

Сергей Курченко и безнаказанность. Почему власть не спешит разбираться с беглым олигархом?

Мнoжecтвo coмнитeльныx cxeм, cвязaнныx c бизнecмeнoм из oбoймы Янукoвичa Сeргeeм Курчeнкo, пo-прeжнeму ocтaютcя нe рaccлeдoвaнными. Срeди ниx — и нынeшняя eгo дeятeльнocть пo рaзoрeнию...

Кабмин повысил минимальную зарплату госслужащим

Правительство Украины утвердило постановление, определяющее Схемы должностных окладов на должностях государственной службы в 2021 году. В частности, установлен новый минимальный должностной оклад. Об этом...
- Реклама-

Топ материалов

Баженов “золотых” подрядов

Глава Госадмтехнадзора Московской области Олег Баженов раздает подряды фирмам, связанным с "авторитетными" чиновниками и депутатами Мособлдумы, а также скандальным "ритуальным" семейством Мазараки, девелоперами Александром...

Экономика на «карантине»: чего ждать в следующем году

Падение экономики по итогам текущего года может превысить ожидания чиновников, говорят эксперты, указывая на плохие «кривые» экономической динамики. Кризис, вызванный пандемией короновируса, еще в зените,...

Ахметов, Коломойский и Пинчук решили поделить Зеленского. План олигархов

Лейтмотивом всей политической оперетты 2021 года будет всесилие олигархов. Но они подстрахуются на случай, если котел вдруг забурлит и придется выпускать пар Чье влияние в...

В Украине нашли полтора миллиарда гривен на зарплаты шахтерам

На выплату зарплат работникам государственных шахт Украины направят 1,4 млрд гривен. Это стало возможным после того, как Верховная Рада внесла изменения в госбюджет-2020, а...

Сюрприз будущим первокласникам от Минобразования

И. о. главы Минобразования Украины утверждает, что слухи о возвращении к 10-летнему образованию — фейк. Зато существует вероятность начала обучения с пяти лет. Исполняющий обязанности министра образования Сергей Шкарлет...