Крупный инцидент с искусственным интеллектом может произойти в ближайшие 6–12 месяцев. Такой прогноз собеседников из отрасли приводит Axios.
По сведениям издания, руководители OpenAI, Anthropic и других технологических компаний закрыто обсуждают действия на случай катастрофического развития событий. Среди рассматриваемых угроз — потеря контроля над автономными системами. Ещё один сценарий связан с масштабными кибератаками.
Подобные происшествия способны нанести серьёзный удар по экономике. Разработчики прорабатывают худшие варианты заранее. Срок в полгода–год относится к ожиданиям инсайдеров относительно крупного инцидента. Он не означает, что «восстанию машин» уже назначена дата.
В сентябре исследователь Anthropic Джейкоб Коксон уволился из-за опасений потерять контроль над ИИ. Он считает, что конкуренция заставляет разработчиков ускоряться, а усилий отдельных компаний для обеспечения безопасности недостаточно. Специалист выступил за государственное регулирование или согласованное замедление технологической гонки.
По сведениям издания, руководители OpenAI, Anthropic и других технологических компаний закрыто обсуждают действия на случай катастрофического развития событий. Среди рассматриваемых угроз — потеря контроля над автономными системами. Ещё один сценарий связан с масштабными кибератаками.
Подобные происшествия способны нанести серьёзный удар по экономике. Разработчики прорабатывают худшие варианты заранее. Срок в полгода–год относится к ожиданиям инсайдеров относительно крупного инцидента. Он не означает, что «восстанию машин» уже назначена дата.
В сентябре исследователь Anthropic Джейкоб Коксон уволился из-за опасений потерять контроль над ИИ. Он считает, что конкуренция заставляет разработчиков ускоряться, а усилий отдельных компаний для обеспечения безопасности недостаточно. Специалист выступил за государственное регулирование или согласованное замедление технологической гонки.
Александр Дементьев
Et Non
Сразу бред.
Что значит - потеря контроля? Есть кластер, где работает ИИ, но никто не знает где он находится географически, а потому не могут выключить? Ни у кого нет рут доступа туда?
Неизвестен провайдер связи этого кластера?
Так не бывает.
Макс Фугло
Если сбои ИИ в банках будут намеренными — например, из‑за кибератаки, — последствия ударят по людям быстрее и жёстче. Антифрод перестанет блокировать подозрительные операции, и мошенники смогут массово уводить деньги за считаные минуты. Система начнёт давать сбои точечно: тормозить выплаты, ошибаться в переводах, массово отказывать в кредитах или, наоборот, выдавать их тем, кто не сможет отдать. Если станет понятно, что система скомпрометирована, начнётся паника: люди потянутся снимать деньги, и это дополнительно сломает работу банков. При этом у банков есть протоколы на такие случаи: они изолируют уязвимые части, включают ручной контроль, ставят лимиты и отключают рискованные модули. Но всё равно период будет тяжёлым — операции пойдут медленнее, проверок станет больше, риски для клиентов вырастут. Поэтому в такой ситуации лучше свести онлайн‑операции к минимуму, не делать переводов на эмоциях, держать небольшой запас наличных и перепроверять каждое уведомление от банка.
Макс Фугло
Миша Миха
Лев Крышний
Василий Таран
Андрей Егоров