Законодатели американского штата Калифорния приняли законопроект, который направлен на предотвращение катастрофического ущерба от использования искусственного интеллекта. Документ предписывает компаниям — разработчикам нейросетевых решений тщательно анализировать риски применения их технологий.
В частности, создатели ИИ должны принять меры, чтобы не допустить массовой гибели людей или ущерба, превышающего $500 миллионов. В противном случае прокуратура сможет добиваться судебного запрета деятельности компании. Законопроект также возлагает ответственность за причиненный ущерб на третью сторону — пользователей ИИ-решений.
По мнению экспертов в случае, если законопроект будет подписан калифорнийским губернатором, он окажет влияние на всю отрасль ИИ не только в США, но и в мире. Дело в том, что именно в Калифорнии базируются почти все крупнейшие компании, занимающиеся искусственным интеллектом.
Стоит отметить, что документ прошел девять раундов поправок на фоне вызванных им горячих споров между законодателями и индустрией ИИ. Кроме того, сами представители рынка восприняли законопроект по-разному. Так, некоторые разработчики заявили, что ограничения буквально задушат инновации.
Однако потенциальные угрозы со стороны ИИ слишком высоки. Так, нейросети могут привести к полному уничтожению человечества, например, создав биооружие, усилив существующие вирусы. Под угрозой находятся и личные данные, а значит практически вся экономика планеты, сообщает IEEE Spectrum.
