trillion dollar zombie
May. 17th, 2026 02:33 pm![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
kobakВ прошлой записи я порекомендовал текст https://ergosphere.blog/posts/the-machines-are-fine/ о том, какую опасность представляет ИИ для подрастающего поколения ученых, у которых возникает сильный соблазн поручать всю "grunt work" искуственному интеллекту, и в итоге они рискуют ничему не научиться. Текст мне понравился, потому что мне близка эта мысль и потому что там было несколько ссылок на другие интересные эссе (несколько их которых я тоже привел в моей прошлой записи). Что-то в этом тексте меня стилистически раздражало, но я не придал этому значения.
А вчера я наткнулся на детальный разбор этого текста с утверждением, что он целиком написан Клодом, и, более того, после этого специально подредактирован, чтобы сделать это менее заметным: https://boxobark.ing/3mj42airv3s2o. По-моему, очень убедительно. Не буду пересказывать, а в качестве рекламы скажу только, что, оказывается, там в одном месте внутри цитаты из "Дюны" тире заменено на точку с запятой. Автор исходного текста забанил автора разбора на Блюскае, что дополнительно добавляет убедительности. Ретроспективно понимаю, что то, что меня несколько раздражало, это как раз и были стилистические маркеры ИИ. Но на конкретные свидетельства того, что текст сгенерирован ИИ, о которых пишет boxobark.ing, я, когда читал, вообще не обратил внимания. Очень поучительно.
Сам автор boxobark.ing крайний ИИ-луддит, который считает, что от ИИ один вред и пользоваться ими нельзя вообще ни для чего и никогда. Кстати, наиболее популярный ответ на MathOverflow на вопрос о том, как следует аспирантам-математикам пользоваться ИИ (я писал об этом вопросе в прошлой записи; https://mathoverflow.net/questions/511255), состоит в том, что пользоваться ИИ им не стоит вообще никогда (автор -- математик Scott Carnahan, специалист по monstrous moonshine):
А вчера я наткнулся на детальный разбор этого текста с утверждением, что он целиком написан Клодом, и, более того, после этого специально подредактирован, чтобы сделать это менее заметным: https://boxobark.ing/3mj42airv3s2o. По-моему, очень убедительно. Не буду пересказывать, а в качестве рекламы скажу только, что, оказывается, там в одном месте внутри цитаты из "Дюны" тире заменено на точку с запятой. Автор исходного текста забанил автора разбора на Блюскае, что дополнительно добавляет убедительности. Ретроспективно понимаю, что то, что меня несколько раздражало, это как раз и были стилистические маркеры ИИ. Но на конкретные свидетельства того, что текст сгенерирован ИИ, о которых пишет boxobark.ing, я, когда читал, вообще не обратил внимания. Очень поучительно.
Сам автор boxobark.ing крайний ИИ-луддит, который считает, что от ИИ один вред и пользоваться ими нельзя вообще ни для чего и никогда. Кстати, наиболее популярный ответ на MathOverflow на вопрос о том, как следует аспирантам-математикам пользоваться ИИ (я писал об этом вопросе в прошлой записи; https://mathoverflow.net/questions/511255), состоит в том, что пользоваться ИИ им не стоит вообще никогда (автор -- математик Scott Carnahan, специалист по monstrous moonshine):
My advice to incoming graduate students is very simple: AI is the Trillion Dollar Zombie, and extended use is likely to lead to your brain being eaten. The Zombie feeds in small bites, so it can be hard to detect, but every time you offload your decision-making and analytical powers to the machine, you are letting it take a nibble.
no subject
Date: 2026-05-17 01:17 pm (UTC)