Российские ученые сомневаются, что искусственному интеллекту можно безоговорочно доверять

Так в ходе обсуждения ученые пытались понять, насколько можно доверять искусственному интеллекту (ИИ) и где проходит та грань, после которой человек должен принимать решение самостоятельно.

Верить или нет Искусственному интеллекту

Так, по словам президента РАН А. Сергеева, ИИ — это так называемый «черный ящик», что даже сами создатели его до конца не понимают, как он работает. И поэтому возникает вполне логичный вопрос: Можно ли доверять выводам ИИ, если мы не можем проследить цепочку логических выводов, совершенную этой «машиной»?

Ведь, по сути, искусственный интеллект уже сейчас делает достаточно большое количество операций лучше и быстрее человека.

И вполне может возникнуть соблазн в принципе отказаться от науки, ведь задавать определенные задачи и считывать ответы с ИИ может и специалист средней компетенции.

Вот только в случае полного и огульного доверия решениям ИИ можно получить сильно искаженную картину, которая может стоить достаточно дорого.

Все дело в том, что человек излишне склонен доверять технике, но вот с искусственным интеллектом все гораздо сложнее. Все дело в том, что человечество до сих пор до конца не может объяснить, как же работает человеческий мозг.

И точно так же нет понимания того, как работает ИИ, который построен по аналогии с человеческим мозгом. Ведь в основе нейросетей лежит достаточно простое уравнение одного нейрона.

Вот только в том случае, когда в работу вовлечено, например, сразу 600 миллиардов таких компонентов, абсолютно никто с точностью не скажет, какие связи формируются в нейросети.

Кроме этого, ученые отметили, что по мере развития нейросетей обнаруживается все больше минусов. Ведь на старте ИИ обучается на миллионах различных примеров.

Вот только зачастую даже при небольшом отклонении от «заученных» в ходе обучения параметров система начинает выдавать неверные результаты.

Так достаточно ярким примером выступает нейросеть, созданная IBM, целенаправленно создаваемая для медицинских нужд. Так вот, оказалось, что ИИ IBM ставит диагнозы на уровне достаточно среднего врача. А значит, что хоть ИИ технологи и позволяют создавать умные системы, но они далеко не безупречны.

И завершая обсуждение, ученые пришли к выводу, что, учитывая все нарастающий тренд на разработку и использование искусственного интеллекта, просто необходимо создать некий аналог ГОСТа, который позволит полноценно использовать ИИ только после того, как система пройдет целый комплекс проверок, и ученые убедятся в том, что ИИ не будет совершать ошибки.

Напишите в комментариях, как лично вы относитесь к применению ИИ в повседневной жизни.

Пожалуйста подпишись, поделись с друзьями, поддержи сайт!

Интересная история Теория струн. В попытке объяснить Вселенную

Читайте дальше Почему в исламе и иудаизме запрещено употреблять свинину

Будет интересно Ученые разработали прототип литий-ионной батарейки с водой в качестве электролита

Невероятная история Что такое темная энергия в космосе и чем она отличается от темной материи

Расследование На Земле есть мир, менее изученный, чем космос и имя ему Океан, так что же мы узнали про земные глубины за 10 лет

Только у нас — Почему России лучше не слезать с «нефтяной иглы»

Также Весь космос пронизывают быстрые радиовсплески. Почему астрофизики хотят разгадать их тайну

Смотрите наш канал на ютубе — https://www.youtube.com/channel/UCi9ynnWGrHL5T19xnXUgi7g?view_as=subscriber