Anthropic требует ручного контроля кода из-за опасностей ИИ

Разработчик столкнулся с фатальной ошибкой компиляции Rust, которая сразу же бросила вызов популярному совету «не стоит доверять искусственному интеллекту». Ошибка появилась на строчке 97 файла src/main.rs, где код использовал unsafe для создания части массива через core::slice::from_raw_parts. Компилятор честно предупредил о возникшем поведении, неопределенным в стандарте: в переменную указывалась завислая ссылка на область памяти ptr, которая больше не принадлежала программе. До того момента, как сработала ошибка, код в main создал коробку с данными Box::new, передал её в конструктор PathString::init, а затем сразу же удалил саму коробку через drop. После этого вызова init.slice() программа пыталась работать с уже недействующим ресурсом. Источником бага стала именно попытка получить срез данных после того, как исходный буфер был освобожден. Стек вызовов подтвердил, что ошибка случилась именно в функции slice, так как она пыталась читать память из-под ногами. В ответ на эту ситуацию сообщество вынесло суровый приговор: автотехнологии, основанные на нейросетях, категорически не умеют писать код на Rust, а любой разработчик, позволяющий машине генерировать такой unsafe-код, просто должен нанять настоящего специалиста. Ошибки типового поведения в Rust стоят огромных денег, поэтому использование ИИ для написания системного кода сегодня считается не просто рискованным, а полным нарушением всех разумных правил безопасности. Даже если искусственный интеллект пишет другие языки, то на языке ризов он превращается в опасного галлюцинатора, который игнорирует правила владения памятью. Этот кейс становится идеальным доказательством того, что автоматизация разработки должна оставаться под жестким контролем человека, знающего каждую строчку. Попытки сэкономить время на найме профессионала через генерацию кода приводят к багам, которые невозможно отладить без глубокого понимания того, как работает память и указатели. Итоговый вывод очевиден: если у вас не хватает опыта, чтобы понять, почему ptr стал завислым, то доверять ему код не стоит.