Специалисты компании Anthropic, разрабатывающей семейство больших языковых моделей (LLM) Claude, опубликовали исследование, которое демонстрирует, что LLM можно принудить выполнять запрещенные действия, повторяя промпты на разный лад, а также автоматиз…
Рубрика: Искусственный интеллект
ИИ может генерировать малварь, избегающую обнаружения в 88% случаев
Эксперты Palo Alto Networks провели эксперимент и сообщили, что большие языковые модели (LLM) можно использоваться для массовой генерации новых вариантов вредоносного JavaScript-кода, что в итоге позволяет малвари лучше избегать обнаружения….
Функция Recall в Windows делает скриншоты номеров банковских карт
Компания Microsoft вновь тестирует функцию Recall, выход которой ранее был отложен из-за проблем с конфиденциальностью и безопасностью. Пока Recall доступна только участникам программы Windows Insiders, но пользователи уже заметили проблемы: функция со…
Функция Recall в Windows делает скриншоты номеров банковских карт
Компания Microsoft вновь тестирует функцию Recall, выход которой ранее был отложен из-за проблем с конфиденциальностью и безопасностью. Пока Recall доступна только участникам программы Windows Insiders, но пользователи уже заметили проблемы: функция со…
ИИ-модель Ultralytics взломана, в ее код внедрили майнер
В PyPI обнаружили еще одну атаку на цепочку поставок. На этот раз компрометации подверглась популярная ИИ-модель Ultralytics YOLO11: в код версий 8.3.41 и 8.3.42 были внедрены майнеры….
Запрягаем ламу. Как использовать Llama для поиска критичных данных в коде
Для подписчиковВ этой статье я расскажу, зачем аппсек‑инженеру следить за тем, какие данные живут у него в разрабатываемых продуктах, как извлечь из кода сервисов структуру передаваемых данных, как раскрасить поля найденных объектов по заранее заведенн…
Запрягаем ламу. Как использовать Llama для поиска критичных данных в коде
Для подписчиковВ этой статье я расскажу, зачем аппсек‑инженеру следить за тем, какие данные живут у него в разрабатываемых продуктах, как извлечь из кода сервисов структуру передаваемых данных, как раскрасить поля найденных объектов по заранее заведенн…
Новый поиск. Колонка главреда
Без малого три года назад я рассказывал, как съезжал с Google и пробовал другие способы искать информацию. С того момента появился еще один мощнейший инструмент — большие языковые модели. Недавно поиск по вебу добавили и в ChatGPT….
Карта мира генеративного ИИ. Выбираем модель и интерфейс, разбираемся с терминами
Для подписчиковГенерировать картинки по текстовому описанию — просто, но только если использовать готовый онлайновый генератор. Установить ИИ на свой компьютер куда сложнее. В этой статье разберемся, какие бывают модели, чем отличается Stable Diffusion…
В OpenAI рассказали, как злоумышленники используют ChatGPT
Компания OpenAI рассказала, что пресекла более 20 иностранных «операций влияния», в рамках которых ChatGPT использовался для отладки и разработки вредоносного ПО, распространения дезинформации, уклонения от обнаружения и проведения фишинговых атак….