Американская компания Collaborations Pharmaceuticals работает с нейросетью, которая синтезирует белки для поиска новых лекарственных средств. Для выявления смертельно опасных видов заражения создали эксперимент, в ходе которого специалисты фарм-компании запустили ИИ в новой методологии, чтобы обнаружить токсичные соединения.
Нейросетевой генератор молекул de novo, который мог находить терапевтические ингибиторы заболевания человека, просто инвертировали создав алгоритм вознаграждения нейросети противоположного результата и нейросеть легко и беспроблемно взялась решать новый алгоритм и выдала 40 000 химических соединений, часть из которых смертельно опасна.
Среди них был выявлен нервнопаралитический ингибитор ацетилхолинэстеразы VX один из самых токсичных боевых отравляющих веществ, который нарушает работу мышц легких.
Правда молекулы на практике не синтезировали и проверить рабочие модели никто не собирался. Этим экспериментом ученые показали, как опасно злоупотреблять искусственным интеллектом, и призвали контролировать использование нейросетей, которые есть в открытом доступе.
Создание и обучения нейросетей по генерации таких молекул доступно с помощью программного обеспечения с открытым исходным кодом.
Ящик Пандоры в виде программного обеспечения, когда дело доходит до перепрофилирования машинного обучения в противоположную сторону. Теперь мы должны спросить: каковы последствия? Наши собственные коммерческие инструменты, а также программные средства с открытым исходным кодом и множество наборов данных, заполняющих общедоступные базы данных, доступны без какого-либо надзора.
