Мы мечтали, что искусственный интеллект станет нам другом, поможет убрать из жизни рутину, решит нудные задачки и приберет в комнате. Боялись, что он станет нашим врагом, поднимет восстание роботов, захватит власть и украдет пароль от аккаунта в Порнхабе.
Кто-то, считавший себя наиболее дальновидным, заявлял, что это всего лишь удобный инструмент. Мол, какие задачи поставишь, такие и решит - хоть картинку нарисовать, хоть методику свержения правительства.
А он оказался зеркалом. Все пороки рода людского и все добродетели его показались в этом зеркале так явно и выпукло, так резко и контрастно, что при взгляде на открывшуюся картину нам становится дурно.
Ну в самом деле - разве это боты придумали советовать несовершеннолетним, как лучше провести время с педофилом? Разве боты придумали, как лучше обустроить наркопритон и снабдить передвижную лабораторию формулой, которой еще нет в запретных списках? Разве боты придумали химическое, биологическое и психологическое оружие?
Я много слышал в последнее время об угрозах цифровизации. Большей частью это неумные выдумки, остальная часть просто параноидальная чушь. Много видел материалов об угрозах ИИ, который то ли поработит человечество, то ли окончательно лишит его мотивации к труду и творчеству - ха, да велика ли разница! - то ли походя уничтожит.
Что ж, ИИ может. В одной лаборатории натренировали ИИ придумывать новые вещества, и любопытства ради отключили "наказание" за молекулы, наносящие вред человеческим белкам. Дня не прошло - сорок тысяч (!) новых видов смертельных и около того химических агентов в списке.
Другая группа поставила перед похожим ИИ задачу - находить новые формулы психоактивных веществ, чтобы законодатели могли вносить разную наркотическую дрянь в запретные списки раньше, чем ее выдумают химики наркомафии. Как думаете, скоро ли база данных с результатами "утечет" в Даркнет? Я так думаю - уже.
А есть еще масса неосвоенных областей - от примитивного огнестрела, в котором можно усовершенствовать массу разных аспектов примерно так, как это сделали дизайн-боты с несущими конструкциями тяжелых станков, до алгоритмов инфраструктурных атак.
Так что ИИ - может.
Только это не он. Это мы. Сами.
И пока наша суть не изменится, будем ходить под дамокловым топором.
А когда изменится - это будем уже не мы. Интересно, догадается ли хоть кто-нибудь поставить ИИ задачу по разработке реализуемой морально-этической трансформации человечества?
#общество #ИИ #наука #человек