Воры и предатели технологий: Исследователь безопасности Anthropic уходит с поста, заявляя о глобальной угрозе из-за быстрого развития искусственного интеллекта
Недавний уход исследователя безопасности компании Anthropic, Мринанка Шармы, стал сигналом тревоги в обсуждениях о рисках, связанных с искусственным интеллектом (ИИ). В своем заявлении Шарма указал на «перманентное давление» на команду, заставляющее их отвлекаться от важнейших вопросов в области обеспечения безопасности. Он также подчеркнул, что современное развитие ИИ представляет собой «мир в опасности», ссылаясь на потенциальные угрозы, такие как биотерроризм.
Anthropic, основанная с целью создания безопасного ИИ, получила широкую известность благодаря своей приверженности этическим стандартам в разработке технологий. Генеральный директор компании Дарий Амодей на прошлогоднем Всемирном экономическом форуме в Давосе также заявил о чрезмерной скорости прогресса в области ИИ, что, по его мнению, требует введения строгих регуляций, чтобы принудить лидеров отрасли замедлить этот процесс.
Уход Шармы и аналогичные случаи в других ведущих компаниях поднимают важные вопросы о приоритетах в области разработки ИИ. В 2024 году два ключевых члена команды «Супералиментации» OpenAI, отвечавшей за направление развития ИИ, также покинули компанию. Они также заявили, что приоритетом для OpenAI стало получение финансовой выгоды, в то время как опасности создания ИИ-систем, превосходящих человеческий интеллект, выходят на первый план.
Согласно исследованию, проведенному Центром исследования рисков в области ИИ при Массачусетском технологическом институте, более 85% специалистов по безопасности в сфере технологий выражают озабоченность по поводу возможной катастрофы, связанной с развитием ИИ. Это подчеркивает необходимость создания более жесткой регуляторной среды для технологий, которые способны принимать решения, выходящие за пределы контроля человека.
В ответ на обеспокоенность со стороны специалистов и исследователей, некоторые государства уже начали разрабатывать новые инициативы. Так, Европейский союз в настоящее время работает над Регламентом о цифровых услугах, который направлен на защиту пользователей и предотвращение рисков, связанных с ненадлежащим использованием ИИ. Эксперты отмечают, что подобные шаги могут стать важным этапом на пути к безопасному использованию технологий.
Вопрос о будущем искусственного интеллекта и его потенциале остается актуальным, и эксперты единодушны в том, что безопасность должна стать первоочередной задачей для всех участников рынка. В противном случае, по их мнению, развитие ИИ может привести к непредсказуемым и опасным последствиям для общества.
