Интересный лонгрид на The Verge – ИИ, который разрабатывает новые лекарства, с помощью ученых превратился в супер-злодея и придумал 40 000 вариантов потенциально смертоносного химического оружия.

В общем, все что потребовалось от исследователей это переключить рубильник, изменив методику поиска, где ИИ должен был не отсеивать токсичные вещества, а наоборот — искать их. Нейронка предложила десятки тысяч новых веществ, некоторые из них были похожи на VX, боевое отравляющее вещество. Учёные слегка прифигели, но опубликовали вот тут свои выводы, побеспокоиться точно стоит.

Во-первых, модель уже создала существующие отравляющие вещества, таким образом проверили, что она «идёт в правильном направлении» и имеет смысл, во-вторых, некоторые из созданных веществ были даже сильнее VX, то есть там хватит буквально мизерного количества для летального исхода. Ну и в-третьих, пугает легкость, многое из того, что использовали учёные, доступно бесплатно, то есть вы можете загрузить набор данных по токсичности веществ откуда угодно.

Ну а если есть друг питонист, то за неделю можно построить нечто похожее на генеративную модель, которая будет управлять токсичными данными, барьер входа сами понимаете какой. Именно поэтому у учёных возникла дилемма — публиковать ли вообще статью, но таких работ больше никто не делал в принципе, было решено просто опередить события, чтобы, возможно, быть на шаг впереди злоумышленников.

Есть и положительные новости — найти потенциальную молекулу это одно дело, а вот синтезировать её уже другое, более сложное, это фактически создание новой молекулы в реальном мире.

https://t.me/denissexy/5456