нейронные сети

Постов: 10 Рейтинг: 22260
572

Как обмануть беспилотные автомобили (и не только их)

Развернуть
Как обмануть беспилотные автомобили (и не только их)
Сейчас активно обсуждают беспилотные автомобили — насколько они лучше или хуже обычных, как они изменят будущее и, конечно, насколько они безопасны. Некоторые подходят к этому со стороны проблемы вагонетки: мол, кто знает, как поведёт себя машина в критической ситуации, когда жертв не избежать? Но есть ещё один интересный аспект, который касается безопасности беспилотников: что, если машину можно сознательно обмануть? Чем это будет грозить на дороге? Сейчас объясню подробнее.

Сообщество автомобильных инженеров (SAE) выделяет 6 уровней автоматизации автомобилей:
0-й уровень: отсутствие автоматизации
1-й уровень: необходимо участие водителя
2-й уровень: частичная автоматизация вождения
3-уровень: автомобиль справляется с задачей самостоятельно, но может запросить участия водителя
4-уровень: высокая степень автоматизации
5 уровень: полная автоматизация

Как обмануть беспилотные автомобили (и не только их)
Нам кажется, что здесь и слева, и справа изображена панда, но сеть GoogLeNet принимает правую картинку за гиббона и совершенно в этом уверена.

Adversarial examples оказались весьма неприятной проблемой. Во-первых, выяснилось, что они не теряют своих обманных свойств и в физическом мире. Если такую картинку распечатать на обычном принтере, потом сфотографировать смартфоном и скормить нейронной сети, она по-прежнему будет работать. Это на практике продемонстрировали ребята из Google Brain и OpenAI — они заставляли ИИ принимать библиотеку за тюрьму, а стиральную машинку за половик. Вот видео для наглядности:
Другой интересный эксперимент провели учёные из Университета Карнеги — Меллон. Они аналогичным образом обманули систему распознавания лиц и выдали себя за известных людей. Для этого исследователи придумали цветовые паттерны, которые заставили бы нейронные сети принять их за конкретных знаменитостей, напечатали эти паттерны на глянцевой бумаге и наклеили на обычные очки. В двух случаях из трёх их ждал 100-процентный успех. Таким образом они показали, что обмануть нейросети можно 1. в реальном мире 2. не вызывая особых подозрений — ведь люди часто носят очки и цветные экземпляры среди них — не редкость. Вот видео с конференции, где исследователи сами рассказывают о своей работе — оно понятнее, чем научная работа на ту же тему.
Во-вторых, для того, чтобы создать хитрые картинки, не обязательно точно знать, как устроена сеть или иметь доступ к набору изображений, на котором её обучают. В марте этого года товарищи из OpenAI рассказали, что провели атаку методом «чёрного ящика». Единственное, что им нужно было знать — как целевая нейросеть классифицирует некоторые объекты.

В-третьих, можно создать adversarial examples, которые смогут одурачить не одну, а сразу несколько сетей, даже если те устроены по-разному. То есть такие «оптические иллюзии» до некоторой степени универсальны, хотя обмануть чем-то одним все сети на свете нельзя (или мы пока об этом не знаем). В общем, страшная вещь — можно дурить в реальном мире сразу несколько алгоритмов, и при этом необязательно всё-всё про них знать.

Специалисты пока не пришли к единому мнению о том, насколько adversarial examples опасны для беспилотных машин. Например, учёные из Иллинойсского университета в Урбане-Шампейне считают, что бояться нечего, потому что камеры движущегося автомобиля видят предметы с разных углов и в разных масштабах. Они провели такой эксперимент: сделали картинки-обманки, внешне похожие на обычные сигналы «стоп», наклеили их на дорожные знаки и несколько раз проехали мимо на автомобиле. Тачка была не простая, а с видеокамерой — изображение сразу поступало нейронным сетям. В большинстве случаев сети верно опознавали знак, ошиблись они всего-то в паре кадров. Учёные объяснили это тем, что машина большую часть времени находилась слишком далеко от дорожного знака, и камера попросту не могла разглядеть изменения картинки, которые обманули бы компьютер. Они пришли к выводу, что в реальном мире, где предмет можно разглядеть с разных углов и на разных дистанциях, о хитрых картинках можно вообще не беспокоиться.

Но с ними согласны не все. Например, ребята из уже упоминавшейся OpenAI (кстати, один из основателей компании — Илон Маск) привели контраргументы всего через 5 дней после публикации того исследования. Они не стали заморачиваться и писать научную работу, а просто опубликовали пост в блоге. Суть такова: спецы OpenAI создали изображение, которое нейронные сети классифицируют неправильно, с какого бы угла они на них не смотрели. Это распечатанная на принтере фотка милого котёнка среди зелени — как её не увеличивай, как не поворачивай, а ИИ всё равно принимает её за настольный компьютер или монитор. Таким образом, получается, что смена ракурса не защищает машины от обмана и опасность остаётся. Этот пост опубликовали совсем недавно, 17 июля, так что нам только предстоит узнать, что на это ответят другие специалисты.
Видео команды OpenAI, где они демонстрируют картинку-обманку с разных ракурсов
В заключение, пожалуй, стоит ещё раз напомнить о том, что проблема касается не только беспилотных автомобилей. Как говорит Григорий Сапунов: «Во многих местах, где нейросети используются для анализа изображений (определение товаров, системы безопасности, и т. д.) часто используются какие-то готовые нейросети, возможно дообученные на данных пользователя. Возможно, выяснится, что многие сервисы подвержены одной и той же проблеме и неверно классифицируют одни и те же картинки просто потому, что построены на одной и той же нейросети. Это может оказаться довольно массовой проблемой, где-то критичной, где-то нет».

Поскольку я не настоящий сварщик, а просто начиталась постов и научных работ (там, где они понятны простому смертному), в комментарии приглашаются специалисты по нейронным сетям, если такие здесь есть. Возможно, я что-то передаю не точно, и они могли бы меня поправить.

P.S. Баянометр ругался на картинку, но она хорошо иллюстрирует тему поста.
774

О нейросетях

Развернуть
С гиктаймса комменты к статье о нейросети:
aaa: Ну все, теперь ещё одна человеческая задача освоена искусственным интеллектом. Потом и за описание алгоритмической части примется.
bbb: И, как логическое завершение, нейросеть, которая пишет код другой нейросети.
ccc: Ну не нагнетайте Вы, блин, и так сыкатна!
ddd: Следующий шаг — генератор кода видеоигры по геймплейному видео.
eee: Следующий шаг — это создание кода и графики игры по текстовому описанию: "Здраствуйте. Я, Кирилл. Хотел бы чтобы вы сделали игру, 3Д-экшон суть такова… Пользователь может играть лесными эльфами, охраной дворца и злодеем..."
822

Нейронную сеть адаптировали для управления анимацией персонажей

Развернуть
Учёные представили нейронную сеть, основанную на искусственном интеллекте, для процедурного генерирования анимации модели, работающей на разных ландшафтах. PFNN обучается в сквозном режиме на большом наборе данных, состоящем из таких движений, как ходьба, бег, прыжки и скалолазание, вмонтированные в виртуальные среды. Система автоматически генерирует движения, в которых персонаж адаптируется к различным условиям, таким как бег по пересеченной местности, прыжки через препятствия, приседания и другие.
Ведущий исследователь проекта и разработчик Ubisoft Montreal Дэниел Холден (Daniel Holden) описал результаты проекта: «После обучения PFNN чрезвычайно быстр и компактен, требуя миллисекунды времени выполнения и несколько мегабайт памяти, даже при обучении на гигабайтах данных».

В ближайшем будущем PFNN собираются применить к созданию компьютерных игр. Сейчас аниматоры тратят сотни часов, чтобы реализовать реалистичные движения и анимацию лиц для игровых персонажей. Представленная система может снизить стоимость разработки, поскольку движения героев будут автоматически определены за короткое время и с высокой совместимостью.

Холден планирует представить нейронную сеть на конференции SIGGRAPH в августе 2017 года.

https://tjournal.ru/43862-neironnuu-set-adaptirovali-dlya-up...
2025

Новая нейросеть анализирует ваши фотографии на предмет крутости

Развернуть
https://everypixel.com/aesthetics
Новая нейросеть анализирует ваши фотографии на предмет крутости
Новая нейросеть анализирует ваши фотографии на предмет крутости
Новая нейросеть анализирует ваши фотографии на предмет крутости
https://everypixel.com/aesthetics
5041

Нейросеть улучшает качество фото или Skynet против шакалов.

Развернуть
29 октября специализирующийся на искусственном интеллекте разработчик Алекс Джей Чампандэрд (Alex J. Champandard) из Вены опубликовал в GitHub код, который позволяет с помощью нейросети улучшить качество снимков низкого разрешения.
Нейросеть улучшает качество фото или Skynet против шакалов.
По словам разработчика, ему удалось достигнуть эффекта при помощи всего лишь 340 строк кода. С помощью нейросети он научился заметно улучшать качество снимков низкого разрешения, убирая эффект пикселизации и повышая чёткость.
Нейросеть улучшает качество фото или Skynet против шакалов.
Сервис можно протестировать самостоятельно. Разработчики запустили его , в которую можно заливать фотографии с разрешением 256 на 256 или 320 на 200 точек (для попадания в экран заливки нужно нажать на ссылку с текстом Neural Enhance 4x: Photos в левом верхнем углу).


Источник - tjournal.ru
1463

Галюцинации при употреблении LSD

Развернуть
Галюцинации при употреблении LSD GIF
3971

Нейросети захватят мир.

Развернуть
Нейросети захватят мир.
Нейросети захватят мир.
Нейросети захватят мир.
Нейросети захватят мир.
Нейросети захватят мир.
Нейросети захватят мир.
Нейросети захватят мир.
Нейросети захватят мир.
Нейросети захватят мир.
Нейросети захватят мир.
Нейросети захватят мир.
Нейросети захватят мир.
Нейросети захватят мир.
Нейросети захватят мир.
Нейросети захватят мир.
1647

Новость №54 Был создан нейросетевой сервис для добавления красок к черно-белым изображениям.

Развернуть
Новость №54 Был создан нейросетевой сервис для добавления красок к черно-белым изображениям.
Подробности тут:
204

Студент Тиренс Броуд научил нейросеть «смотреть» кино.

Развернуть
Броуд создал нейросеть, которая занимается «автокодированием» видео. Она берет изображение, кодирует его с помощью 200 цифр, а затем пытается раскодировать эту последовательность и получить картинку, максимально близкую к оригиналу. Броуд обучил алгоритм на фильме Ридли Скотта «Бегущий по лезвию» 1982 года, заставив его «посмотреть» картину шесть раз.


Итогом всей этой работы стала покадрово воссозданная роботом версия фильма. Так как при кодировании используется всего 200 цифр, у нейросети не хватает деталей — и в некоторых кадрах получается непонятная каша. Но сама идея прекрасна.


В конце мая Warner Bros. отправила видеохостингу Vimeo, где была размещена полная версия фильма от нейросети, уведомление о нарушении авторских прав. А учитывая, что поиском нарушений авторских прав обычно занимаются роботы, получается роскошная развязка: робот от Warner Bros. перепутал фильм, созданный другим роботом, с картиной, снятой человеком!


И маленькая деталь: в «Бегущем по лезвию» рассказывается про искусственный интеллект, который невозможно отличить от настоящих людей.


6313

Еще одна нейросеть - художник

Развернуть
Берет два изображения и строит одно, используя в качестве цветового паттерна другое.
Примеры работ:
Еще одна нейросеть - художник
Еще одна нейросеть - художник
Еще одна нейросеть - художник
Еще одна нейросеть - художник
Еще одна нейросеть - художник
Она не была бы так прекрасна, если бы любой не мог себе ее установить.


Если же лень насиловать линукс и прочие пакеты - есть онлайн
Раз: 
Два: 
Три: