Зуммировать: Страница не найдена — Fantastic Factory

Содержание

Страница не найдена — Fantastic Factory

Поэтика фотографии

В центре исследования вопросы, связанные с тем, что составляет понятие поэтики фотографии, — композицией,

КАК ПРАВИЛЬНО ФОТОГРАФИРОВАТЬ.ОСНОВЫ ФОТОГРАФИИ

 Fantastic Factory Световые схемы Схема света в студии – устоявшийся и в некоторой

ФОТОФИШКИ ЦИФРОВОЙ И ПЛЕНОЧНОЙ ФОТОГРАФИИ

 Fantastic Factory Почему пленка и сканирование? Ответить можно подробно или кратко. Кратко скажу:

Фотокомпозиция

 Определение границ кадра При композиционном решении снимка фотограф исходит из определенных размеров и

Фотокомпозиция

 Упражнение 4. Репортажный портрет Специфика репортажного портрета состоит прежде всего в том, что

Фотографирование живой природы

Большинство грибов произрастает в лесу, причем многие из них предпочитают лес определенного типа, например

Стоит ли откладывать покупку зум-объектива, пока я не научусь зуммировать ногами?

Тот факт, что вы покупаете зум-объектив, не означает, что это единственный объектив, который вам теперь разрешено использовать! И только то, что вы используете зум-объектив, не означает, что вы не можете изменить композицию ваших фотографий, используя ваши ноги!

Совет, который вам дали, — это прежде всего предупреждение не стоять на одном месте и не прекращать исследовать углы съемки и перспективы только потому, что на вашей камере установлен зум-объектив.

Вы по-прежнему можете снимать несколько дней, используя только определенный объектив, например, одно из простых. Есть уроки о перспективе, поле зрения, узкой глубине резкости, кадрировании и композиции, которые лучше всего усвоить, работая с основным объективом и активно выбирая наилучшую позицию для съемки, чтобы получить нужный вам снимок. Фиксированное фокусное расстояние заставляет вас двигаться, чтобы изменить кадрирование объекта, но это не значит, что вы должны или даже должны прекратить движение, чтобы изменить свою композицию, как только вы добавите зум-объектив в микс.

Есть другие уроки о перспективе, поле зрения, кадрировании и композиции, которые лучше всего узнать с помощью зум-объектива. Увеличение позволяет, например, изучить, как выглядит один и тот же объект по отношению к переднему плану / фону при съемке с разных расстояний на разных фокусных расстояниях с использованием одного и того же кадра объекта.

В этом упражнении вы масштабируете ноги и объектив в противоположных направлениях и сравниваете результаты!

Можете ли вы быть отличным фотографом, используя только простые или только масштабирования? Абсолютно. Но вы не будете так хорошо окружены фотографом. В конечном счете, я думаю, что для того, чтобы быть хорошо разносторонним фотографом, вам необходимо иметь навыки, позволяющие использовать как обычные объективы, так и зум-объективы в соответствующих ситуациях, а также способность оценивать, когда каждый из них является лучшим выбором. Съемка с использованием простых или зум-объективов — ключ к тому, чтобы не застрять в колее (или в одном месте), а вместо этого продолжать исследовать новые способы видения мира через видоискатель.

«Google Фото» позволит зуммировать уже отснятые видео

Искусственный интеллект и программные алгоритмы постобработки – уже не новое явление для мира мобильной фотографии. Именно благодаря им смартфоны научились поглощать тряску рук без задействования аппаратных стабилизаторов, делать портретные снимки на широкоугольную камеру и высветлять кадры в полной темноте. Поддержку таких функций получили плюс-минус все флагманские смартфоны, но лучшей в этом деле оказалась Google, которая решила, что будет развивать не только фотографические способности фирменных аппаратов, но и сервисов вроде «Google Фото».

Google Фото давно перестал быть просто хранилищем для фотографий, превратившись в полноценный редактор

Читайте также: Что случится с вашими фотографиями, если вы удалите Google Фото

После функции оцифровки фотокарточек и окрашивания чёрно-белых снимков Google решила оснастить «Google Фото» специальным режимом, который позволяет зуммировать уже отснятые видеозаписи постфактум. Для этого достаточно просто развести пальцы в жесте pinch-to-zoom и приблизить нужную область. Данный механизм работает во всех видео и, судя по всему, позволяет приближать выбранные фрагменты видео в несколько раз. В результате получается так, как будто зуммирование было выполнено при первоначальной съёмке.

Как приблизить кадр на снятом видео

Google Фото научился зуммировать уже отснятые видео

Возможность приблизить определённый фрагмент видеозаписи очень удобна и может пригодиться в ситуациях, когда нужно сосредоточиться на конкретной области ролика, вместо того чтобы смотреть его целиком, или в целях цензуры, когда необходимо скрыть определённый контент от тех, кому его видеть не положено. Правда, превратить горизонтальное видео в вертикальное и наоборот всё-таки нельзя, потому что зуммирование не является инструментом редактирования видеозаписей.

Читайте также: Google добавила в «Google Фото» чат для обмена фотографиями

Пока новый механизм доступен только в тестовом режиме, поэтому нет возможности изучить его во всех подробностях. Например, ещё не понятно, улучшает «Google Фото» приближенный фрагмент, компенсируя потерю качества, или нет. В принципе было бы логично, если бы программные алгоритмы и нейронные сети как-то достраивали выбранную область, минимизируя эффект пикселизации, учитывая, что приложение имеет большое количество механизмов, имеющих приблизительно похожее предназначение.

Как работает дипфейк

Реализовать нечто подобное для Google в принципе несложно, тем более если вспомнить про дипфейки. Всего-то и нужно, что «натаскать» нейронную сеть достраивать определённые фрагменты изображения. Да, конечно, это будет не то же самое видео, а придумка искусственного интеллекта, но кому какое дело? Ведь ни у кого же, кроме профессиональных фотографов, не вызывает возмущения программно реализованные портретные и ночные режимы съёмки, которые всего-навсего либо размыливают фон после создания снимка, либо высветляют кадры, сделанные в темноте.

Читайте также: Как отмечать людей на фотографиях в Google Фото

Лично мне очень нравится, насколько активно Google в последнее время развивает сервис «Google Фото», превратив его из просто облачного хранилища фотографий и видеозаписей в удобный каталог и редактор. Благодаря ему можно быстро оцифровать старую фотокарточку, сфотографировав её с разных ракурсов, превратить чёрно-белый снимок в цветной, задействовав нейронные сети, которые окрашивают даже старинные фотографии предельно натурально, а также хранить фото в формате HEVC без ограничений по весу и количеству. И всё это совершенно бесплатно.

Apple сняла ограничения на зуммирование готовых фото в iOS 14

Несмотря на довольно высокое качество фотографий, iPhone никогда не относился к касте смартфонов с супер-зумом. Максимум, на что он был годен, — это двукратное приближение, которое достигалось исключительно за счёт оптики. То ли Apple считала, что её пользователям это было ненужно, то ли сказывались технические ограничения, но, так или иначе, возможности iPhone независимо от модели были сильно ограничены. Видимо, по той же причине, iOS ограничивала использование механизма приближения уже готовых фотографий, не позволяя зуммировать их, чтобы подробнее рассмотреть мелкие объекты. Но в этом году этот запрет было решено снять.

Apple сняла ограничение на увеличение готовых снимков в iOS 14

Какие функции безопасности появились в iOS 14

Apple сняла ограничение на увеличение мелких объектов на готовых фотографиях, разрешив приближать их в несколько раз. Для этого, как и прежде, достаточно воспользоваться жестом pinch-to-zoom, как бы раздвинув кадр, чтобы рассмотреть его подробнее. Безусловно, многократное приближение не даст такой же чёткой картинки, как на исходном изображении, но зато позволит увидеть те детали, которые вы, возможно, пропустили бы, если бы не увеличили картинку. Иногда это действительно может быть удобно, даже в ущерб качеству.

Зум фото на айфон

Теперь увеличить кадр можно до пиксельной каши

Практика показывает, что, сохраняя более-менее приемлемое качество, изображение можно увеличить в 3-3,5 раза. Если пытаться увеличивать его и дальше, то кадр расползётся на пиксельные составляющие, начав демонстрировать вам квадратики вместо сколь-нибудь приемлемого изображения. Сказывается относительно невысокое разрешение камеры современных iPhone, которое ограничивается всего лишь 12 мегапикселями, тогда как флагманские смартфоны конкурентов уже давно имеют модули на 100 с лишним мегапикселей.

Как iOS 14 сделает гейминг на iPhone и iPad лучше

Но зачем, в таком случае, Apple пожертвовала качеством, дав пользователям неограниченный зум готовых снимков? У меня есть два объяснения, каждое из которых направлено в будущее.

  • Первое – Apple собирается интегрировать в iOS 14 новую систему алгоритмов, которые будут использовать искусственный интеллект и машинное обучение для программного улучшения сильно зазумленных фотографий. То есть на выходе получится нечто похожее на результат работы тех инструментов, которыми пользуются герои шпионских фильмов, когда после многочисленных обработок пикселизация стирается и получается вполне приемлемый кадр.
  • Второе – таким образом Apple готовится к увеличению разрешения камер в новых iPhone. Несмотря на то что использовать камеру на 12 мегапикселей в iPhone 12 было бы очень символично, скорее всего, Apple немного нарастит разрешающую способность будущего аппарата. Уж не знаю, насколько, но я бы не удивился, если бы Apple оснастила флагманский аппарат 2020 года камерой на 20, 40 или даже 60 мегапикселей. Всё-таки хуже от них точно не станет.

Увеличение фото без потери качества

Посмотрите, каким чётким выглядит даже увеличенное фото. Здесь явно не обошлось без программной ретуши

Причём, что важно, одно объяснение не исключает другого. Apple вполне может реализовать и так называемые улучшайзеры, которые будут делать увеличенный кадр лучше, и увеличить разрешающую способность камеры нового iPhone. Вполне возможно даже, что какие-то инструменты, повышающие чёткость фотографии, есть уже в первой бета-версии iOS 14. На это указывает довольно высокое качество цветка на фотографии, представленной выше. Несмотря на низкое разрешение картинки как таковой, отчётливо видно, что все капельки и волоски растения не страдают от пикселизации.

Пароли больше не нужны! Safari в iOS 14 умеет входить на сайты по Face ID и Touch ID

По большому счёту программное улучшение увеличенных кадров в iPhone напрашивалось уже давно. Google одной из первых показала, что в этом нет ничего постыдного. Ведь какая разница, захватывает ли изображение сама камера или программные алгоритмы достраивают его уже постфактум? Возможно, для профессионального фотографа разница и есть. А вот для рядового пользователя, который хочет просто получить красивый кадр, — нет. Но ведь профессионал вряд ли будет вести съёмку на смартфон и скорее для этой цели возьмёт зеркальный фотоаппарат, а iPhone оставит уже обывателям без претензии на достоверность.

Как увеличить YouTube-видео онлайн, без скачивания

Большинство приложений-видеоплееров для ПК и даже некоторые мобильные видеоплееры функцию зуммирования поддерживают. С онлайн-плеерами, как известно,  ситуация несколько иная. Потому, к примеру, увеличить YouTube-видео прямо во время просмотра просто так не получится, нужен специальный инструмент. Вот о нем, точнее, о них мы и расскажем.

В общем, в плеере на компе увеличить-уменьшить видео не сложно, если, конечно, он поддерживает масштабирование.

В популярном и кросс-платформенном VLC, к примеру, для этого надо просто на клавиатуре нажать кнопку Z (увеличение) или комбинацию Shift+Z (уменьшение).

В YouTube, впрочем, как в любом другом онлайн-сервисе из более-менее известных, такой функционал не предусмотрена (пока, по крайней мере).

Правда, в некоторых случаях хватает и того, что можно просто увеличить всю страницу YouTube в браузере, но чаще всего этого не достаточно. Потому приходится пользоваться особыми программными инструментами, кои в распоряжении современного юзера поступают двух типов:

А) в виде стандартных расширений для браузера с отдельной функцией масштабирования видео онлайн и…

Б) в виде специальных приложений-плееров с аналогичной функцией масштабирования видео, в том числе и с YouTube.

Далее — с примерами:

  • как увеличить YouTube-видео онлайн с помощью расширения браузера

OwlZoom for YouTube Videos для браузера Firefox (ссылка на фирменный онлайн-каталог аддонов Mozilla) — после установки этого расширения в меню настроек YouTube-ролик появляется функция Zoom, благодаря которой видео можно увеличивать в масштабе от 100% до 200%.

Притом после выбора масштаба изображение в кадре увеличивается автоматически. А так как увеличенная картинка на экране умещается лишь частично, то в расширении предусмотрена также опция выбора нужного фрагмента экрана. Отключается увеличение просто выбором 100% в меню Zoom или клавишами 

Shift+B с клавиатуры.

Zoom для Chrome (ссылка на магазин расширений Chrome) — прога изначально разработана для упрощения масштабирования веб-страниц в браузере, но с её помощь можно также уменьшить-увеличить YouTube-видео путем просто зуммирования экрана плеера.

Универсальное расширение Magic Actions (ссылка на сайт разработчика) доступно в версиях для браузеров Chrome, Firefox и Opera позволяет увеличивать экран YouTube плеера на всё окно браузера. И хотя это не есть масштабирование, тем не менее, решение прекрасно подходит на случай, когда нужно что-то рассмотреть в ролике онлайн.

  • как увеличить YouTube-видео онлайн с помощью плеера

Для этого просто нужен плеер, в котором предусмотрена функция воспроизведения видео и YouTube и зум. Например, SMTube. Это одно из дополнения для популярного SMPlayer-а.

Бесплатное, но устанавливается отдельно. Ролик стандартно воспроизводится в SMPlayer, а в процессе надо открыть меню «Видео», выбрать «Zoom» и далее — нужную опцию. Комбинации клавиш тоже предусмотрены.

Никогда не говорите про «зум ногами»

Дэвид Килпатрик рассказал о своем отношении к фразе «делай зум ногами» применительно к использованию одного объектива с фиксированным фокусным расстоянием.

Есть пренебрежительная позиция у некоторых фотосообществ, когда некоторые из членов используют фразу «почему бы тебе не использовать вместо зума свои ноги». Такие глупости можно только игнорировать. Фокусное расстояние объектива, независимо от использование одного зум-объектива или нескольких объективов с фиксированным фокусным расстоянием, определяет соотношение элементов на изображении, включая один компонент, который вы просто не можете «зуммировать ногами». Это небо. Облака и глубину неба можно изменить только используя другое фокусное расстояние.


Вот обложка свежего номера журнала Cameracraft, в которой я допустил очень редкую оплошность. Я никогда раньше не фотографировал эту церковь, несмотря на то, что проезжал мимо нее последние 28 лет. Крутой поворот налево, затем вниз по дороге к привел меня к церкви Святого Эндрюса в Киркаэндрюсе, драгоценности XVIII века, с необычной ориентацией с севера на юг, вместо направления восток-запад. Благодаря этому в конце марта полуденное солнце светит на южную дверь.
Сейчас здесь типичный умышленно нескорректированный кадр на 24-миллиметровый объектив, снятый с крутого угла. У меня также есть очень прямые варианты, снятые с большего расстояния на объектив 24-70mm CZ f/4 и A7R II. Но все они находятся в диапазоне между 24 и 32 мм, с более маленькой церковью в композиции, где также в кадр попали кладбище и стены. Это сделано потому, что небо выглядит просто лучше при съемке с на широкий угол.

Когда мы стали снимать здесь, то на другой стороне была видна машина, которая портила вид. Там же я увидел шикарное старое засохшее дерево. Мы поговорили с дамой, которая следила за кладбищем и садами. Она выразила сожаление о том, что церковь была заперта, поскольку интерьер стоил того, чтобы его увидеть, и она убрала машину, которая была бы заметна на запланированном мною кадре. Мы запарковали машину подальше в поле, и я вернулся к дереву.


Я знал что искать, и сначала подошел к нужной точки, чтобы снимать на фокусном 30 мм. Но двигаясь и изучая на возможные позиции камеры (и ее высоту над землей), я мог видеть, что относительные размера дерева и церкви можно изменить, найдя более хороший угол и перспективу. Вот для этого и нужны ноги и зум ПОМОГАЕТ это сделать. Когда говорят про «зум ногами», то конечно же, это не означает, что вам можно иметь только объектив с фиксированным фокусным расстоянием. Здесь бы подошли 35 или 28 миллиметров, но я знал, сколько пространства нужно оставить между колокольней на крыше и веткой дерева (и мне не нужны были детали  садов).
Этот снимок на 26 мм может мне дать больше неба. К тому же я могу его выправить, чтобы получить прямые вертикали (тут есть пространство для этой операции) с помощью инструментов Adobe Photoshop или Camera Raw. Справа была уродливая деревянная ограда для защиты саженца от скота. Ниже на снимке можно ее увидеть и понять, почему эта конструкция не является хорошим дополнением композиции. До этого там еще был видел белый автомобиль, который уехал.
На этой точке я в целом был доволен соотношением размеров дерева и церкви, и их относительным весом в вертикальной композиции, но было ощущение, что здесь есть немного больше напряжения, чем нужно.
Этот кадр на 35 мм позволяет разместить все части дерева отдельно от церкви. Я аккуратно разместил их, чтобы избежать явного переднего плана с упавшими ветками.
В этом примере я приблизился к дерево еще сильнее, снова используя 24 мм, и эта точка дает возможность получить самый удачный вариант неба и облаков. Но я ощущал, что сломанный ствол слегка забирал больше внимания, чем надо, и соотношение между деревом и церковью просто потеряло идею. Такие небольшие различия действительно учитываются. Обычно я никому не показываю снимки с беготнёй вокруг, только финальную фотографию. В том, что по существу является пейзажной сценой, это не всегда так важно. В рекламной фотографии, в портрете, свадебной или фэшн-съемке важно понять, что разница в пару сантиметров положения объектива отличает хорошую фотографию от обычной. Это и правильный момент также означает лучший снимок в репортаже.

Точное положение — это где ваши ноги и зум сходятся вместе. Двигаясь намного ближе к дереву, и используя его для сплошного заполнения левой стороны кадра, может получится, что верхняя ветка может хорошо очертить здание церкви, и немного больше будут показаны обломки веток. Более близка позиция настраивалась в пределах одного-двух сантиметров по горизонтали и вертикали. Чтобы разместить объектив точно в то место, которое мне было нужно, пришлось слегка пригнуться.


Кроме того, эта точка позволяла разместить церковь в центре, а следовательно она получалась без заваленных вертикалей. Я уже видел этот снимок в ч/б, и возможно как вариант для обложки, с местом под текст и логотипы. Это было изображение, которое я использовал для обложки.

Тем не менее, с этой же точки увеличение фокусного до 41 мм дало более крупный размер здания церкви.


Вы можете видеть как я переместился влево на совсем небольшое расстояние, и отступил на пару шагов, чтобы изменить соотношение между веткой и зданием церкви. Это тот контроль, которые вы получаете от объектива, такого как 24-70 мм, и это причина почему вы должны использовать зум ПЛЮС ваши ноги, на зуммировать своими ногами. Прежде всего вы должны ходить вокруг и смотреть, даже без камеры, изучая взаимодействие между передним планом, фоном, средней дистанцией и небом.

В первые три года моего использования полнокадровой беззеркальной системы Sony у меня не было 24-70 мм, вместо этого я использовал несколько фиксов и 28-70 мм. Хотя я использовал отличные работы, сделанные на 24-70 мм, в наших журналах, которые были сделаны другими фотографами, было очень много плохие отзывов о нем. Но 24 мм всегда были для меня критически важным фокусным расстоянием, поэтому мне пришлось купить его когда появилось хорошее предложение. К сожалению объектив не идеален, поскольку на 24 мм фокальная плоскость сильно изогнута до такой степени, что края сфокусированы на 45 см, когда центр установлен на 45 м. Это может привести к неправильному результату. Фактически эта кривизна улучшает резкость ствола дерева, а отдаленная церковь на камере с 42 мегапикселами потребует диафрагмы f/11. Но если бы это было портрет с отдаленной сценой на за ним, то был бы обратный эффект, и внешнее поле было бы менее резким.

Здесь использовался Sony Zeiss Vario-Tessar 24-70mm f/4, который продается на Amazon, Adorama и B&H.

Стоит ли откладывать покупку зум-объектива, пока я не научусь зуммировать ногами?

Тот факт, что вы покупаете зум-объектив, не означает, что это единственный объектив, который вы теперь можете использовать! И только то, что вы используете зум-объектив, не означает, что вы все равно не можете изменять композицию своих фотографий, используя свои ноги! Совет, который вам дали, — это прежде всего предупреждение не стоять на одном месте и не останавливаться. исследовать углы съемки и перспективы только потому, что на вашей камере установлен зум-объектив.

Вы по-прежнему можете снимать несколько дней, используя только определенный объектив, например, одно из простых. Есть уроки о перспективе, поле зрения, узкой глубине резкости, кадрировании и композиции, которые лучше всего усвоить, работая с основным объективом и активно выбирая наилучшую позицию для съемки, чтобы получить снимок, который вы представляете. Фиксированное фокусное расстояние заставляет двигаться, чтобы изменить кадрирование объекта, но это не значит, что вам нужно или даже следует прекратить движение, чтобы изменить свою композицию, когда вы добавите в микс зум-объектив.

Существуют и другие уроки о перспективе, поле зрения, кадрировании и композиции, которые лучше всего узнать с помощью зум-объектива. Увеличение позволяет, например, изучить, как выглядит один и тот же объект по отношению к переднему плану / фону при съемке с разных расстояний на разных фокусных расстояниях с использованием одного и того же кадра объекта. В этом упражнении вы масштабируете ноги и объектив в противоположных направлениях и сравниваете результаты!

Можете ли вы быть великим фотографом, используя только простые или только масштабирования? Абсолютно. Но вы не будете так хорошо окружены фотографом. В конечном счете, я думаю, что для того, чтобы быть хорошо разносторонним фотографом, вам необходимо иметь навыки, позволяющие использовать как обычные объективы, так и зум-объективы в соответствующих ситуациях, а также способность оценивать, когда каждый из них является лучшим выбором. Съемка с использованием простых или зум-объективов — ключ к тому, чтобы не застрять в колее (или в одном месте), а скорее продолжать исследовать новые способы наблюдения за миром через ваш видоискатель.

Zoom In

  • Zoom In признан AASL одним из лучших веб-сайтов для преподавания и обучения в 2016 г.

    Американская ассоциация школьных библиотекарей назвала Zoom In одним из лучших информационных ресурсов 2016 года. Посетите их сайт чтобы проверить других лидеров в этой области!

  • Представляем Летнюю академию Zoom In и Kentucky Writing Project 2016!

    Вы учитель в Кентукки? Присоединяйтесь к команде Zoom In и нашим руководителям учителей из проекта Kentucky Writing Project на практических выходных, где мы ищем способы поддержать навыки грамотности учащихся через участие в исторических исследованиях.Зарегистрируйтесь на веб-сайте Kentucky Writing Project или напишите нам, чтобы узнать больше о нашей сессии 20-21 июня в Верии, штат Кентукки, и нашей сессии 25-26 июля в Луисвилле, штат Кентукки.

  • ЛАРРИ Ферлаццо ДОБАВЛЯЕТ УВЕЛИЧЕНИЕ СПИСКА, ЛУЧШИЕ ОНЛАЙН-ИНСТРУМЕНТЫ, ПОМОГАЮЩИЕ СТУДЕНТАМ НАПИСАТЬ ЭССЕ

    Ларри Ферлаццо проверил Zoom In и ему понравилось, как мы сделали первоисточники доступными для студентов с различными потребностями. «Очевидно [они] очень сознательно выбирали первичные исходные документы, которые, вероятно, будут более доступны для студентов, а затем сделали их еще более доступными благодаря своей структуре и простой возможности поиска определений слов.Я действительно не видел ни одного другого сайта, который мог бы сделать это где-либо рядом, а также Zoom In! »

  • Платформа Common Sense Graphite недавно провела обзор Zoom In, назвав нас« популярным ресурсом для эпохи CCSS. , наполненный богатым содержанием и значительными возможностями для развития навыков «.

    Узнайте, что еще они сказали, и поделитесь своим опытом с Zoom In, оставив свой собственный отзыв.

  • После полевого тестирования Zoom In на уроке социальных исследований в восьмом классе в Кентукки Кристи Крейвен сказала следующее: «Это потрясающий инструмент, который помогает студентам исследовать исторические события и концепции.Мне так понравились эти уроки, как и моим ученикам! Я определенно воспользуюсь учебной программой снова ».

  • «Мое первое впечатление? Два слова: изменит правила игры. Серьезно. Если вы учитель истории США в средней или старшей школе, вам нужно попробовать это. Я не шучу. За этим будущее исторического мышления. Увеличить — вот как должно выглядеть преподавание социальных наук в 21 веке ». — Гленн Вибе, президент Канзасского совета социальных исследований

  • Самый быстрый словарь в мире: Словарь.com

  • увеличить рассмотреть внимательно; сосредоточить внимание на

  • Сомалийский язык или относящийся к Африканской республике Сомали или ее народ, или их язык и культура

  • smidgin крошечное или едва заметное количество

  • зоман нервно-паралитический агент, легко всасывается в организм

  • масштабировать очень быстро перемещаться

  • зум-объектив Объектив фотоаппарата, увеличивающий изображение

  • кто-то человек

  • Манная крупа из твердых сортов пшеницы, используемая в макаронных изделиях

  • сгладить сделать более гладким или сглаженным, как если бы втирать

  • симазин гербицид, используемый для борьбы с сорняками (особенно среди сельскохозяйственных культур)

  • зловещие угрозы или предзнаменования зла или трагических событий

  • Симун сильный горячий ветер, покрытый песком, в пустынях Аравии и Северной Африки

  • зомби бог культов африканского происхождения, которому поклоняются в Вест-Индии

  • бум-городок, внезапно переживающий процветание

  • коммунизм теория в пользу коллективизма в бесклассовом обществе

  • Zoomastigina в некоторых классификациях считается типом королевства Протиста; голозойские или сапрозойские жгутиковые

  • неомицин антибиотик, полученный из актиномицетов и используемый (в виде сульфата под торговым названием Neobiotic) в качестве кишечного антисептика в хирургии

  • виомицин — основной полипептидный антибиотик (торговое название Виоцин), вводимый внутримышечно (вместе с другими лекарственными средствами) при лечении туберкулеза

  • увеличить акт подъема вверх в воздух

  • мрачная могила или даже мрачный характер

  • Утро после: объяснение масштабирования в суде

    Дебаты между юристами и судьей Шредером в суде над Кайлом Риттенхаусом были сосредоточены на увеличении масштабирования на iPad, функции, которая появилась на устройствах Apple с тех пор. IPod Touch 2007 года.

    Томас Бингер, помощник окружного прокурора, возглавляющий обвинение, планировал воспроизвести на iPad видео, на котором Риттенхаус снимает Джозефа Розенбаума. Когда помощник окружного прокурора сказал, что он будет использовать функцию масштабирования на iPad, адвокаты возразили, заявив, что функция масштабирования iPad может изменить отснятый материал инцидента, «создавая то, что, по его мнению, есть, а не то, что обязательно есть. . »

    Это привело к тому, что на обвинение возложена обязанность доказать, что изображения остались в «девственном состоянии», а не на защите, чтобы доказать манипуляцию.Масштабирование пальцем на всех устройствах может использовать алгоритмы, но только для масштабирования изображения — оно не меняет сам контент.

    Согласно The New York Times , Бингер сказал, что увеличение изображений на устройствах — это обычная часть повседневной жизни, которую понимают все присяжные, и попросил отложить заседание, в чем было отказано. Судья назначил 15-минутный перерыв, предполагая, что г-н Бингер сможет «в течение нескольких минут» заставить кого-нибудь дать показания относительно точности увеличенного видео.

    — Мэт Смит

    Согласно отчету, будет построено на миллион единиц меньше, чем прогнозировалось ранее.

    Sony PlayStation 5, возможно, не сможет побить рекорд продаж PS4 за первый год из-за продолжающейся нехватки компонентов, согласно Bloomberg . Сообщается, что компания сократила свой прогноз производства с 16 миллионов до 15 миллионов, поставив под угрозу свою цель — 14,8 миллиона продаж PS5 к марту, если отчет верен. Это также усугубляет плохую ситуацию для тех, кто надеется купить PS5 в праздничные дни.

    Читать дальше.

    Лучший ноутбук для создания Windows.

    Engadget

    ASUS ProArt StudioBook 16 OLED понравится некоторым из самых требовательных создателей благодаря потрясающему цветному OLED-дисплею 4K и колесу ASUS для управления приложениями Adobe Creative Cloud. В этой машине много всего, чтобы она могла конкурировать с настольными компьютерами, предлагая отличную производительность для редактирования видео и фотографий, 3D-приложений и многого другого благодаря графическому процессору RTX 3070, восьмиъядерному процессору AMD Ryzen 9 и высокоскоростному твердотельному накопителю NVMe. Он плавный, быстрый и обеспечивает хорошее время автономной работы.Главный недостаток — высокотехнологичный, но на данный момент бесполезный кардридер SD Express.

    Читать дальше.

    Да, пылесос — это весело.

    Достаточно внимательного совета, пора редакторам Engadget рассказать о том, что они хотели бы получить на праздники. А у нас разные интересы. Наши предложения касаются тамагочи, секс-игрушек, массажных пистолетов и раскладушек.

    Читать дальше.

    Ни для одной из новых функций вам не понадобится новое оборудование.

    Компания HTC обновила свою отличную, но дорогую гарнитуру для бизнеса Vive Focus 3 с гораздо большей игровой зоной, Wi-Fi 6E и многим другим. Обновление программного обеспечения не требует никаких изменений в аппаратном обеспечении, поскольку HTC «тайно построила необходимое оборудование для 6E с первого дня», — написал в Твиттере глава отдела аппаратных продуктов HTC Шен Йе.

    Читать дальше.

    «Критическая» проблема с аккумулятором заставила компанию действовать.

    Паника

    Мы сообщали о задержках этого интригующего КПК как минимум пять раз.Что шестеро между друзьями? Компания объявила о задержке в четверг, объяснив это «критической» проблемой с аккумулятором, которую она обнаружила в конце процесса производства первых 20 000 единиц консоли. «Мы сделали сложный и дорогостоящий призыв заменить все наши существующие батареи на новые от совершенно другого поставщика аккумуляторов», — сказал Кабель Сассер из Panic. Компания заявляет, что новый силовой элемент имеет «намного лучшее» время автономной работы, чем предыдущий. По крайней мере, так оно и есть.

    Читать дальше.

    Самые важные новости, которые вы могли пропустить

    Байден подписывает закон, запрещающий Huawei и ZTE получать лицензии FCC

    Engadget Deals: обучающий термостат Google Nest сейчас со скидкой 28%

    MoviePass может вернуться в 2022 году

    Netflix включает кодек AV1, экономящий полосу пропускания, на PS4 Pro и некоторых телевизорах

    Обзор HP Chromebook X2: действительно ли нам нужен трансформируемый Chrome OS?

    Лучшее снаряжение для зимних видов спорта, которое можно подарить в этом году

    Все продукты, рекомендованные Engadget, выбираются нашей редакционной группой, независимо от нашей материнской компании.Некоторые из наших историй содержат партнерские ссылки. Если вы покупаете что-то по одной из этих ссылок, мы можем получать партнерскую комиссию.

    Судья Риттенхауза все еще сбит с толку масштабированием

    Обвинение и защита продолжают спорить по поводу доказательств в суде над Кайлом Риттенхаусом за убийство двух человек во время протеста в Висконсине, что вызывает удивительное замешательство как со стороны защиты, так и со стороны судьи Брюса Шредера относительно того, что происходит, когда вы увеличиваете масштаб на устройстве с сенсорным экраном.

    В среду Шредер заявил, что обвинение должно доказать, что увеличение видео с помощью iPad не изменяет и не манипулирует отснятым материалом. «В iPad, производимых Apple, есть искусственный интеллект, который позволяет рассматривать вещи в трех измерениях и в логарифмах», — заявила защита в рамках своего возражения, добавив, что iPad «использует искусственный интеллект или их логарифмы, создавать то, что, по их мнению, происходит. Так что это на самом деле не улучшенное видео; это программирование Apple iPad, создающее то, что, по его мнению, есть, а не то, что обязательно есть.”

    Судья Шредер оставил возражение в силе, дав прокурорам всего 20 минут на то, чтобы найти свидетеля-эксперта, который объяснит, как работает масштабирование пальцем на iPad. (Следует, конечно, отметить, что iPad не имеет никаких «логарифмов», которые позволяют просматривать видео в трех измерениях или «воссоздавать» части изображения, которых нет.)

    Во время споров по поводу инструкций присяжных, транслировавшихся сегодня в прямом эфире, судья пошел еще дальше, вытащив свой смартфон, чтобы продемонстрировать свое непрекращающееся недоумение при увеличении масштаба.

    В частности, судья сохраняет сообщения от своих друзей, делая скриншоты и отправляя их себе по электронной почте. Он показал сегодня в зале суда один такой снимок экрана, отметив, что «некоторые из них довольно длинные» и «появляются в моем письме вот так, как маленькая лента», поэтому он увеличивает их, и «это просто размытое пятно».

    По словам судьи (в беседе с обвинением): «Вы говорили на днях … об этом как о мобильном телефоне, где вы можете увеличивать изображение и увеличивать его.Но это не увеличивает его; это просто размытое пятно. Ну, это не делает его больше … это делает его больше, но это не что иное, как размытое пятно «. Затем он спросил: «Как это может быть надежным … потому что это ненадежно для меня и получения сообщений на мой телефон».

    Прокурор ответил: «Я думаю, вы неправильно фотографируете на свой телефон. Я не техподдержка, но … »Судья ответил:« Я не удивлен », что вызвало смех.

    Давайте объясним, что здесь происходит.Судья Шредер, похоже, использует Samsung Galaxy 20. Это означает, что он, вероятно, активирует «захват прокрутки», функцию снимков экрана Samsung, которая создает длинные изображения всего окна — в данном случае всего текстового разговора. Таким образом, эти скриншоты появляются на его экране в виде длинных тощих изображений, чтобы соответствовать. Когда он отправляет это изображение себе по электронной почте (или отправляет текст), изображение затем сжимается до меньшего разрешения и размера файла, поэтому, когда он пытается увеличить его, оно становится размытым.

    Судья Шредер, похоже, активирует захват прокрутки на своем Galaxy S20

    Ничто из этого не является полезным доказательством в поддержку возражения защиты относительно масштабирования iPad.Прежде всего, Galaxy S20 работает под управлением операционной системы Google Android с различными настройками Samsung, в то время как защита конкретно возражает против «логарифмов» Apple на iPad. Итак, с самого начала все, что делает телефон Samsung, не имеет отношения к возражениям относительно того, как работает устройство Apple. Во-вторых, защита возражает против того, что логарифмы Apple добавляют данные к изображению, чтобы его можно было просматривать в трех измерениях или воссоздать то, чего там нет. Здесь телефон судьи Шредера явно не добавляет никаких данных к изображению: оно остается размытым, .Во всяком случае, его опыт подтверждает способность обвинения увеличивать масштаб видео. Но опять же: разный софт от разных компаний.

    Судья завершил разговор тем, что не отключил звук на телефоне.

    Увеличить архив — QIL QDI

    Климатическая безопасность: глобальная проблема против региональных ответов / Увеличить масштаб

    1. Введение A l’occasion d’un débat du Conseil de sécurité des Nations Unies tenu le 20 июля 2011 по теме «Maintien de la paix et de la sécurité internationale: Incidences des Changes Climate», [1] le Secrétaire général des Nations Unies déclarait que ‘Les changements climatiques sont réels et s’accélèrent dangereusement.Non seulement ils aggravent …

    Климатическая безопасность: глобальная проблема против региональных ответов / Увеличить масштаб

    1. Введение Сложная взаимосвязь между вооруженными конфликтами и природными ресурсами — не новый предмет для обсуждения в системе Организации Объединенных Наций. Еще в конце прошлого века Отчет Брундтланд [1] и Рио-де-Жанейрская декларация по окружающей среде и развитию [2] четко подчеркнули взаимную взаимосвязь между безопасностью и ухудшением состояния окружающей среды.В 2005 г. …

    Представлено Беатрис Бонафе и Маурицио Аркари. Точная связь между изменением климата и вооруженными конфликтами обсуждается. Однако влияние первых на обострение конфликтных ситуаций все чаще признается на глобальном уровне. Совет Безопасности действительно включил изменение климата, ухудшение состояния окружающей среды и стихийные бедствия в число проблем международной безопасности, которые могут …

    Как договор о бизнесе и правах человека может соответствовать международному праву? Оценка развития международных правил корпоративной ответственности… / Увеличить

    1. Введение Деятельность частных компаний может включать нарушения основных прав отдельных лиц и сообществ, включая принудительный труд, рабство и бесчеловечное или унижающее достоинство обращение. В то же время частные компании могут также оказывать негативное воздействие на окружающую среду и здоровье людей местных сообществ, затрагивая их права, включая право человека на жизнь ….

    Как договор о бизнесе и правах человека может соответствовать международному праву? Оценка развития международных правил корпоративной ответственности… / Увеличить

    1. Введение Жалобы, связанные с нарушениями прав человека, против корпоративных субъектов за причинение вреда окружающей среде растут во всем мире и во многих юрисдикциях. Эти жалобы следует рассматривать в контексте более широких усилий по устранению пробелов в правоприменении и подотчетности, которые мешают экологическому праву, как на национальном [1], так и на международном [2] уровне. В данной статье рассматривается …

    Как договор о бизнесе и правах человека может соответствовать международному праву? Оценка развития международных правил корпоративной ответственности… / Увеличить

    1. Введение Взаимосвязь между обязательствами государств по международным инвестиционным соглашениям (МИС) [1] и договорами по правам человека является противоречивой [2] и находится в центре горячих споров как среди ученых [3], так и среди общественности в целом. [4] Проблема также поднималась в нескольких международных инвестиционных разбирательствах. [5] Была выражена озабоченность по поводу побочных эффектов …

    Представлено Анжеликой Бонфанти и Марко Пертиле В июне 2014 года Совет по правам человека своей резолюцией 26/9 учредил межправительственную рабочую группу открытого состава (OEIGWG) с мандатом на разработку «международного юридически обязательного документа для регулирования в международном масштабе. право прав человека, деятельность транснациональных корпораций и других коммерческих предприятий ».[1] Было проведено шесть сеансов …

    Судебная юрисдикция в ЕСПЧ: между моделями изменений и актами сопротивления / Увеличить масштаб

    1. Введение Поворот и поворот в расширяющемся круговороте Сокол не может слышать сокольничьего (отрывок из «Второго пришествия» У. Б. Йейтса). Статья 1 Европейской конвенции о правах человека указывает, что обязательства государства распространяются на всех «в пределах их границ». юрисдикция ».[1] Таким образом, осуществление юрисдикции является «пороговым критерием… необходимым…

    . Судебная юрисдикция в ЕСПЧ: между моделями изменений и актами сопротивления / Увеличить масштаб

    1. Экстерриториальность и разные форумы: разные направления путешествий Международное право прав человека (или, по крайней мере, инструменты, входящие в эту категорию) применяется многими различными организациями. Все большее число этих структур более конкретно занимается экстерриториальными обязательствами в области прав человека.В том числе Международный Суд (МС) в своем консультативном заключении …

    Представлено Алисой Риккарди, Алисой Оллино и Диего Маури Около десяти лет назад один автор описал понятие юрисдикции в соответствии со статьей 1 Европейской конвенции о правах человека (ЕКПЧ), чтобы включить «достаточно гибкое определение, чтобы со временем развиваться дальше вовне, поскольку европейские подписанты расширяют не только природу…

    Мне остаться или идти? Последствия денонсации Американской конвенции и консультативного заключения Межамериканского суда по правам человека 26/2020

    1. Введение Устный перевод — увлекательная тема для ученых. Он всегда был в центре изучения права по той простой и единственной причине, что когда судьи интерпретируют нормы, они могут, по сути, стать законодателями, то есть если они считают это абсолютной необходимостью, учитывая: для…

    Как увеличить видео в Pinnacle Studio

    1. Подсказки
    2. Увеличить видео

    При редактировании фильма вы можете обнаружить, что кадр не совсем тот, на который вы надеялись. Процесс постпроизводства дает вам возможность исправить все, что вам не нравится, включая размер и форму кадра. С помощью Pinnacle Studio создатели фильмов могут увеличивать масштаб видео, чтобы скрыть детали по краям или выделить определенную часть кадра.Узнайте, как это сделать, в приведенном ниже руководстве.

    1. Установите Pinnacle Studio

    Чтобы установить программу для редактирования видео Pinnacle Studio на свой компьютер, загрузите и запустите установочный файл, указанный выше. Продолжайте следовать инструкциям на экране, чтобы завершить процесс установки.

    2. Выберите «Панорама и масштаб».

    На вкладке Edit убедитесь, что выбрано рабочее пространство Editor .На панели параметров выберите параметр Pan and Zoom .

    3. Выберите Анимированный

    В раскрывающемся списке Edit Mode выберите Animated .

    4. Отрегулируйте область увеличения

    Выберите вкладку Источник панорамирования и масштабирования . В этом окне вы можете установить и изменить размер области панорамирования и масштабирования.По мере того, как видео продолжается, вы можете переместить рамку в новый раздел, что позволит вам увеличивать масштаб определенной части видео и следить за ней.

    Pinnacle Studio не только увеличивает масштаб видео

    Ознакомьтесь с некоторыми другими функциями редактирования видео, доступными в Pinnacle Studio, такими как «Как обрезать видео», «Как разделить видео», «Как поделиться видео» и многое другое! Теперь создавать высококачественные фильмы и видеоролики стало проще, чем когда-либо.Выведите свои видео на новый уровень с Pinnacle Studio.

    Как размыть объект на видео Как повернуть видео Как экспортировать видео Как обрезать видео

    Получите лучшее программное обеспечение для увеличения видео, которое есть

    Привлекайте внимание к определенной части вашего видео, увеличивая масштаб этой части сцены.Мы обещаем, что вам понравятся простые в использовании функции Pinnacle Studio. Нажмите ниже, чтобы загрузить бесплатную 30-дневную пробную версию и попробовать Pinnacle Studio прямо сейчас!

    Увеличить масштаб: знакомство со схемами

    Эта статья является частью потока Circuits, экспериментального формата, в котором собираются короткие статьи и критические комментарии, посвященные внутреннему устройству нейронных сетей.

    Цепи Резьба Обзор раннего видения на начальном этапе V1

    Содержание

    Многие важные переходные моменты в истории науки были моментами, когда наука «приближалась».” На этих этапах мы разрабатываем визуализацию или инструмент, который позволяет нам видеть мир на новом уровне детализации, и развивается новая область науки для изучения мира через эту призму.

    Например, микроскопы позволяют нам видеть клетки, что ведет к клеточной биологии. Наука увеличилась. Несколько методов, включая рентгеновскую кристаллографию, позволяют нам увидеть ДНК, что привело к молекулярной революции. Наука увеличилась. Атомная теория. Субатомные частицы. Неврология. Наука увеличилась.

    Эти переходы были не просто изменением точности: они были качественными изменениями в объектах научного исследования. Например, клеточная биология — это не просто более тщательная зоология. Это новый вид исследования, который кардинально меняет то, что мы можем понять.

    Знаменитые примеры этого явления происходили в очень большом масштабе, но это также может быть более скромным сдвигом в небольшом исследовательском сообществе, осознающем, что теперь они могут изучать свою тему более детально.

    Микрография Гука открыла нам видимый богатый микроскопический мир через микроскоп, включая первоначальное открытие клеток.
    Изображения из Национальной библиотеки Уэльса.

    Так же, как ранний микроскоп намекал на новый мир клеток и микроорганизмов, визуализация искусственных нейронных сетей выявила дразнящие намеки и проблески богатого внутреннего мира в наших моделях (например,). Это заставило нас задуматься: возможно ли, что глубокое обучение находится на аналогичной, хотя и более скромной, точке перехода?

    Большая часть работ по интерпретируемости направлена ​​на то, чтобы дать простые объяснения поведения всей нейронной сети.Но что, если вместо этого мы воспользуемся подходом, вдохновленным нейробиологией или клеточной биологией — подходом увеличения? Что, если мы будем рассматривать отдельные нейроны, даже отдельные веса, как достойные серьезного исследования? Что, если бы мы были готовы потратить тысячи часов на отслеживание каждого нейрона и его связей? Какая будет картина нейронных сетей?

    В отличие от типичного изображения нейронных сетей в виде черного ящика, мы были удивлены, насколько сеть доступна в таком масштабе.Не только нейроны кажутся понятными (даже те, которые изначально казались непостижимыми), но и «цепи» связей между ними кажутся значимыми алгоритмами, соответствующими фактам о мире. Вы можете наблюдать, как круговой детектор собирается из кривых. Вы можете увидеть, как голова собаки состоит из глаз, морды, меха и языка. Вы можете наблюдать, как машина состоит из колес и окон. Вы даже можете найти схемы, реализующие простую логику: случаи, когда сеть реализует AND, OR или XOR над визуальными функциями высокого уровня.

    За последние несколько лет мы увидели множество невероятных визуализаций и анализов, намекающих на богатый мир внутренних функций современного нейронные сети. Выше мы видим изображение DeepDream, которое вызвало большой ажиотаж в этом пространстве.

    Это вводное эссе предлагает общий обзор нашего мышления и некоторых рабочих принципов, которые мы сочли полезными в этом направлении исследований. В следующих статьях мы и наши сотрудники опубликуем подробные исследования этого внутреннего мира.

    Но правда в том, что мы только прикоснулись к пониманию единой модели видения. Если эти вопросы находят отклик у вас, вы можете присоединиться к нам и нашим сотрудникам в проекте Circuits, открытом научном сотрудничестве, организованном на Distill Slack.


    Три спекулятивных иска

    Одной из первых формулировок чего-то, приближающегося к современной клеточной теории, были три заявления Теодора Шванна — которого вы, возможно, знаете по шванновским клеткам — в 1839 г .:

    Претензии Шванна в отношении ячеек
    Клетка — это единица структуры, физиологии и организации живых существ.Клетка сохраняет двойное существование как отдельная сущность и строительный блок в построении организмов. Клетки образуются путем образования свободных клеток, подобно образованию кристаллов. Этот перевод / обобщение утверждений Шванна можно найти во многих текстах по биологии; нам не удалось определить исходный источник перевода. Изображение книги Шванна взято из Deutsches Textarchiv.

    Первые два из этих утверждений, вероятно, знакомы и сохраняются в современной клеточной теории. Третий, вероятно, не знаком, поскольку он оказался ужасно неправильным.

    Мы считаем, что очень важно сформулировать убедительную версию того, что можно считать правдой, даже если она может быть ложной, как третье утверждение Шванна. В этом духе мы предлагаем три утверждения о нейронных сетях. Они предназначены как как эмпирические утверждения о природе нейронных сетей, так и как нормативные утверждения о том, как их полезно понимать.

    Три предположительных утверждения о нейронных сетях
    Функции — это фундаментальная единица нейронных сетей.
    Они соответствуют направлениям. Под «направлением» мы подразумеваем линейную комбинацию нейронов в слое. Вы можете думать об этом как о векторном направлении в векторном пространстве активации нейронов в данном слое. Часто мы считаем наиболее полезным поговорить об отдельных нейронах, но мы увидим, что в некоторых случаях другие комбинации являются более полезным способом анализа сетей, особенно когда нейроны «многозначны».” (См. Подробное определение в глоссарии.) Эти особенности можно тщательно изучить и понять. Элементы связаны весами, образуя схемы. «Схема» — это вычислительный подграф нейронной сети. Он состоит из набора элементов и взвешенных ребер, которые проходят между ними в оригинале. сеть. Часто мы изучаем довольно маленькие схемы — скажем, с менее чем дюжиной функций — но они также могут быть намного больше.(См. Подробное определение в глоссарии.)
    Эти схемы также можно тщательно изучить и понять. Аналогичные функции и схемы образуются в моделях и задачах. Слева: атлас активации, визуализирующий часть функций космической нейронной сети, которые могут представлять.

    Эти утверждения являются преднамеренно спекулятивными.Они также не являются полностью новыми: утверждения в соответствии с пунктами (1) и (3) уже предлагались ранее, о чем мы подробнее поговорим ниже.

    Но мы считаем, что эти утверждения важно учитывать, потому что, если они верны, они могут лечь в основу новой «увеличенной» области интерпретируемость. В следующих разделах мы обсудим каждый из них по отдельности и представим некоторые свидетельства, которые заставили нас поверить, что они могут быть правдой.


    Пункт 1: Характеристики

    Функции — это фундаментальная единица нейронных сетей.Они соответствуют направлениям. Их можно тщательно изучить и понять.

    Мы считаем, что нейронные сети состоят из значимых и понятных функций. Ранние слои содержат такие функции, как детекторы кромок или кривых, в то время как более поздние слои имеют такие функции, как детекторы гибких ушей или детекторы колес. В сообществе разделились мнения о том, правда ли это. В то время как многие исследователи рассматривают существование значимых нейронов как почти тривиальный факт — существует даже небольшая литература, изучающая их, — многие другие настроены глубоко скептически и считают, что прошлые случаи нейронов, которые, казалось, отслеживали значимые скрытые переменные, были ошибочными.Несогласие сообщества по поводу значимых характеристик трудно уловить, и они лишь частично отражены в литературе. Основополагающие описания глубокого обучения часто описывают нейронные сети как обнаруживающие иерархию значимых функций, и был написан ряд статей, демонстрирующих, казалось бы, значимые функции в различных областях доменов. В то же время появилась более скептическая параллельная литература, предполагающая, что нейронные сети в первую очередь или только сосредотачиваются на текстуре, локальной структуре или неощутимых паттернах, что значимые особенности, когда они существуют, менее важны, чем неинтерпретируемые, и что кажущиеся интерпретируемыми нейроны могут быть неправильно понятым.Хотя многие из этих работ выражают очень тонкую точку зрения, не всегда их понимали. В средствах массовой информации был написан ряд статей, содержащих сильные версии этих взглядов, и мы, неофициально выяснив, что вера в то, что нейронные сети не понимают ничего, кроме текстуры, довольно распространена. Наконец, у людей часто возникают проблемы с формулированием своих точных взглядов, потому что у них нет четкого языка для обозначения нюансов между «детектором текстуры, сильно коррелированным с объектом» и «детектором объекта».” Тем не менее, тысячи часов изучения отдельных нейронов привели нас к мысли, что типичный случай состоит в том, что нейроны (или, в некоторых случаях, другие направления в векторном пространстве активации нейронов) понятны.

    Конечно, быть понятным не означает быть простым или легко понятным. Многие нейроны изначально загадочны и не следуют нашим априорным предположениям о том, какие особенности могут существовать! Однако наш опыт показывает, что за этими нейронами обычно есть простое объяснение, и что они на самом деле делают что-то вполне естественное.Например, нас сначала сбили с толку высокочастотные детекторы (обсуждаемые ниже), но, оглядываясь назад, можно сказать, что они просты и элегантны.

    В этом вводном эссе дается только обзор пары примеров, которые мы считаем иллюстративными, но за ним последуют как глубокие погружения, в которых подробно описываются индивидуальные особенности, так и общие обзоры, в которых схематично излагаются все особенности, которые, как мы понимаем, существуют. На данный момент мы возьмем наши примеры из InceptionV1, но полагаем, что эти утверждения верны в целом, и обсудим другие модели в последнем разделе, посвященном универсальности.

    Независимо от того, правы мы или ошибаемся в отношении значимых функций, мы считаем, что это важный вопрос, который необходимо решить сообществу. Мы надеемся, что представление нескольких конкретных, тщательно изученных примеров, казалось бы, понятных функций поможет продвинуть диалог.

    Пример 1: Детекторы кривых

    Нейроны, определяющие кривую, можно найти в каждой нетривиальной модели зрения, которую мы тщательно исследовали.Эти единицы интересны, потому что они находятся на границе между функциями, о существовании которых в целом согласны сообщество (например, детекторы краев), и функциями, в отношении которых существует значительный скептицизм (например, высокоуровневые функции, такие как уши, автомобили и лица).

    Мы сосредоточимся на детекторах кривых в слое mixed3b , раннем слое InceptionV1. Эти блоки реагировали на изогнутые линии и границы с радиусом около 60 пикселей. Их также слегка возбуждают перпендикулярные линии на границе кривой, и они предпочитают, чтобы две стороны кривой были разных цветов.

    Детекторы кривых входят в состав семейств устройств, при этом каждый член семейства обнаруживает одну и ту же кривую в разной ориентации. Вместе они охватывают весь спектр ориентаций.

    Важно отличать детекторы кривых от других устройств, которые могут показаться внешне похожими. В частности, существует множество устройств, которые используют кривые для обнаружения изогнутого субкомпонента (например, круги, спирали, S-образные кривые, форму песочных часов, трехмерную кривизну и т. Д.).Есть также единицы, которые реагируют на формы, связанные с кривыми, такие как линии или острые углы. Мы не считаем эти устройства детекторами кривых.

    Но действительно ли эти «детекторы кривых» обнаруживают кривые? Мы посвятим всю следующую статью более глубокому изучению этого вопроса, но резюмируя так, мы думаем, что доказательства достаточно веские.

    Мы предлагаем семь аргументов, изложенных ниже. Стоит отметить, что ни один из этих аргументов не является специфическим для кривой: они представляют собой полезный общий набор инструментов для проверки нашего понимания других функций.Некоторые из этих аргументов — примеры наборов данных, синтетические примеры и кривые настройки — являются классическими методами из визуальной нейробиологии (например). Последние три аргумента основаны на схемах, которые мы обсудим в следующем разделе.

    Аргумент 1: Визуализация функций

    Оптимизация входа для срабатывания детекторов кривых надежно дает кривые. Это устанавливает причинную связь, поскольку все в полученном изображении было добавлено, чтобы нейрон активизировался больше.
    Подробнее о визуализации функций можно узнать здесь.

    Аргумент 2: Примеры наборов данных

    Изображения ImageNet, которые вызывают сильное срабатывание этих нейронов, имеют надежную кривую в ожидаемой ориентации. Изображения, которые вызывают их умеренное срабатывание, обычно имеют менее идеальные кривые или кривые с отклонением от ориентации.

    Аргумент 3: Синтетические примеры
    Детекторы

    Curve ожидаемо реагируют на ряд изображений синтетических кривых, созданных с различной ориентацией, кривизной и фоном.Они стреляют только вблизи ожидаемой ориентации и не стреляют сильно по прямым линиям или острым углам.

    Аргумент 4: Совместная настройка

    Если мы возьмем примеры наборов данных, которые заставляют нейрон срабатывать и вращать их, они постепенно перестают срабатывать, и детекторы кривой в следующей ориентации начинают срабатывать. Это показывает, что они обнаруживают повернутые версии одного и того же. Вместе они покрывают полные 360 градусов потенциальных ориентаций.

    Аргумент 5: Реализация функции (аргумент на основе схемы)

    Посмотрев на схему построения детекторов кривой, мы можем прочитать алгоритм определения кривой по весам. Мы также не видим ничего, указывающего на вторую альтернативную причину увольнения, хотя есть много меньших гирь, роль которых мы не понимаем.

    Аргумент 6: Использование функции (аргумент на основе схемы)

    Последующие клиенты детекторов кривых — это функции, которые естественным образом включают кривые (например,грамм. круги, 3D кривизна, спирали…). Эти клиенты ожидаемо используют детекторы кривых.

    Аргумент 7: Рукописные схемы (аргумент на основе схемы)

    Основываясь на нашем понимании того, как реализованы детекторы кривых, мы можем заново реализовать чистую комнату, ручная установка всех весов для повторного определения кривой. Эти веса представляют собой понятный алгоритм обнаружения кривых и значительно имитируют исходные детекторы кривых.

    Приведенные выше аргументы не полностью исключают возможность некоторого редкого вторичного случая, когда детекторы кривой срабатывают для другого типа стимула. Но они, кажется, устанавливают что (1) кривые заставляют эти нейроны активироваться, (2) каждый блок реагирует на кривые с разной угловой ориентацией, и (3) если есть другие стимулы, которые заставляют их активировать, эти стимулы редки или вызывают более слабую активацию. В более общем плане эти аргументы, похоже, соответствуют стандартам доказывания, которые, как мы понимаем, используются в нейробиологии, которая имеет устоявшиеся традиции и институциональные знания о том, как оценивать такие утверждения.

    Все эти аргументы будут подробно рассмотрены в следующих статьях, посвященных детекторам кривых и схемам определения кривых.

    Пример 2: Детекторы высокой и низкой частоты

    Детекторы кривых — это интуитивно понятный тип функции, такой, как можно предположить, существует в нейронных сетях априори. Учитывая их присутствие, неудивительно, что мы можем их понять. Но как насчет функций, которые не являются интуитивно понятными? Можем ли мы их понять? Мы в это верим.

    Детекторы высоких и низких частот являются примером менее интуитивно понятного типа функции. Мы находим их в раннем видении, и как только вы понимаете, что они делают, они становятся довольно простыми. Они ищут низкочастотные паттерны с одной стороны своего рецептивного поля и высокочастотные паттерны с другой. Подобно детекторам кривых, детекторы высоких и низких частот находятся в группах функций, которые ищут одно и то же в разных ориентациях.

    Чем полезны высокочастотные детекторы для сети? Они кажутся одной из нескольких эвристик для определения границ объектов, особенно когда фон не в фокусе.В следующей статье мы рассмотрим, как они используются при создании сложных детекторов границ.

    (Одна из надежд, что некоторые исследователи надеются на интерпретируемость, заключается в том, что понимание моделей сможет научить нас более совершенным абстракциям для размышлений о мире. Детекторы высоких и низких частот, возможно, являются примером небольшого успеха в этом отношении: естественная, полезная визуальная функция чего мы не ожидали заранее.)

    Все семь методов, которые мы использовали для опроса криволинейных нейронов, также можно использовать для изучения высокочастотных нейронов с некоторыми настройками — например, для визуализации синтетических примеров высокочастотных и низкочастотных.Опять же, мы полагаем, что эти аргументы в совокупности обеспечивают сильную поддержку идеи о том, что это действительно семейство высокочастотных контрастных детекторов.

    Пример 3: Детектор головы собаки с инвариантной позой

    Как кривые, так и высокочастотные детекторы являются визуальными особенностями низкого уровня, обнаруженными на ранних уровнях InceptionV1. А как насчет более сложных функций высокого уровня?

    Давайте рассмотрим это устройство, которое, по нашему мнению, является детектором собак с неизменной позой.Как и в случае с любым нейроном, мы можем создать визуализацию функций и собрать примеры наборов данных. Если вы посмотрите на визуализацию объекта, то увидите, что геометрия… невозможна, но очень информативна в отношении того, что она ищет, и примеры наборов данных подтверждают это.

    Стоит отметить, что сочетание визуализации функций и примеров наборов данных уже является довольно сильным аргументом. Визуализация признаков устанавливает причинную связь, а примеры наборов данных проверяют использование нейрона на практике и наличие второго типа стимулов, на которые он реагирует.Но мы можем снова применить все наши другие подходы к анализу нейрона. Например, мы можем использовать 3D-модель для создания синтетических изображений головы собаки под разными углами.

    В то же время некоторые из подходов, которые мы подчеркивали до сих пор, требуют больших усилий для этих более высокоуровневых, более абстрактных функций. К счастью, наши аргументы, основанные на схемах, о которых мы поговорим позже, по-прежнему будет легко применять, и они дадут нам действительно мощные инструменты для понимания и тестирования высокоуровневых функций, не требующих больших усилий.

    Полисемантические нейроны

    Это эссе может дать вам слишком радужную картину: возможно, каждый нейрон дает красивую, понятную человеку концепцию, если ее серьезно исследовать?

    Увы, это не так. Нейронные сети часто содержат «многозначные нейроны», которые реагируют на несколько несвязанных входных сигналов. Например, InceptionV1 содержит один нейрон, который реагирует на морды кошек, фасады машин и кошачьи лапы.

    4e: 55 — многозначный нейрон, который реагирует на кошачьи мордашки, фасады машин и кошачьи лапы.Более подробно это обсуждалось в разделе «Визуализация функций».

    Для ясности, этот нейрон не реагирует на некоторую общность машин и кошачьих мордочек. Визуализация функций показывает нам, что она ищет кошачьи глаза и усы, пушистые лапы и блестящие фасады автомобилей, а не какие-то общие черты.

    Мы все еще можем изучать такие особенности, характеризуя каждый отдельный случай, который они запускают, и в некоторой степени рассуждать об их схемах. Несмотря на это, многозначные нейроны представляют собой серьезную проблему для схем, значительно ограничивая нашу способность рассуждать о нейронных сетях.Почему многозначные нейроны так сложны? Если один нейрон с пятью разными значениями соединяется с другим нейроном с пятью разными значениями, это фактически 25 связей, которые нельзя рассматривать по отдельности. Мы надеемся, что удастся разрешить многозначные нейроны, возможно, «разворачивая» сеть, чтобы превратить многозначные нейроны в чистые признаки, или обучая сети вообще не проявлять многозначность. По сути, это проблема, изучаемая в литературе по распутыванию представлений, хотя в настоящее время эта литература имеет тенденцию сосредотачиваться на известных особенностях скрытых пространств генеративных моделей.

    Возникает естественный вопрос: почему образуются многозначные нейроны? В следующем разделе мы увидим, что они, похоже, являются результатом явления, которое мы называем «суперпозицией», когда схема распределяет функцию по множеству нейронов, предположительно, чтобы упаковать больше функций в ограниченное количество доступных нейронов.


    Пункт 2: Цепи

    Элементы связаны весами, образуя схемы.
    Эти схемы также можно тщательно изучить и понять.

    Все нейроны в нашей сети сформированы из линейных комбинаций нейронов предыдущего слоя, за которым следует ReLU. Если мы можем понять особенности обоих слоев, не должны ли мы также понять связи между ними? Чтобы изучить это, мы считаем полезным изучить схемы: подграфы сети, состоящие из набора тесно связанных функций и весов между ними.

    Примечательно то, насколько гибкими и значимыми кажутся эти схемы как объекты исследования.Когда мы начали искать, мы ожидали найти что-то довольно беспорядочное. Вместо этого мы нашли красивые богатые структуры, часто симметричные им. Как только вы поймете, какие функции они объединяют, веса отдельных чисел с плавающей запятой в вашей нейронной сети станут значимыми! Вы можете буквально читать значимые алгоритмы по весам.

    Рассмотрим несколько примеров.

    Цепь 1: Детекторы кривой

    В предыдущем разделе мы обсудили детекторы кривых, семейство устройств, обнаруживающих кривые в различных угловых ориентациях.В этом разделе мы рассмотрим, как детекторы кривых реализованы на основе более ранних функций и связаны с остальной частью модели.

    Детекторы кривых в основном реализованы на основе более ранних, менее сложных детекторов кривых и линейных детекторов. Эти детекторы кривых используются в следующем слое для создания детекторов трехмерной геометрии и сложной формы. Конечно, есть длинный хвост более мелких связей с другими функциями, но, похоже, это основная история.

    В этом введении мы сосредоточимся на взаимодействии первых детекторов кривой и наших детекторов полной кривой.

    Давайте еще больше сфокусируемся и посмотрим, как один ранний детектор кривой соединяется с более сложным детектором кривой в той же ориентации.

    В этом случае наша модель реализует свертку 5×5, поэтому веса, связывающие эти два нейрона, представляют собой набор весов 5×5, который может быть положительным или отрицательным. Многие из нейронов, обсуждаемых в этой статье, включая детекторы кривых, находятся в ветвях InceptionV1, которые структурированы как свертка 1×1, которая сокращает количество каналов до небольшого узкого места, за которым следует свертка 3×3 или 5×5.Веса, которые мы представляем в этом эссе, — это умноженная версия весов конверсии 1х1 и более. Мы думаем, что часто полезно рассматривать это как единую матрицу весов низкого ранга, но технически это игнорирует одну нелинейность ReLU. Положительный вес означает, что если более ранний нейрон срабатывает в этой позиции, он возбуждает поздний нейрон. И наоборот, отрицательный вес будет означать, что он его подавляет.

    Мы видим сильные положительные гири, расположенные в форме детектора кривой.Мы можем думать об этом как о том, что в каждой точке кривой наш детектор кривой ищет «касательную кривую», используя более ранний детектор кривой.

    Необработанные веса между детектором ранней кривой и детектором поздней кривой в одной ориентации представляют собой кривую положительных весов, окруженную небольшими отрицательными или нулевыми весами. Это можно интерпретировать как поиск «касательных кривых». в каждой точке кривой.

    Это верно для каждой пары детекторов ранней и полной кривой в одинаковых ориентациях.В каждой точке кривой он обнаруживает кривую с аналогичной ориентацией. Точно так же кривые с противоположной ориентацией являются тормозящими в каждой точке кривой.

    Детекторы кривых возбуждаются более ранними детекторами
    в подобных ориентациях

    … и подавляется более ранними детекторами в
    противоположных ориентациях .

    Здесь стоит задуматься о том, что мы смотрим на веса нейронной сети, и они имеют значение.

    И чем ближе вы смотрите, структура становится богаче. Например, если вы посмотрите на детектор ранней кривой и детектор полной кривой в схожей, но не в одной и той же ориентации, вы часто можете увидеть, что у них более сильные положительные веса на той стороне кривой, с которой они более выровнены.

    Также стоит отметить, как веса вращаются в зависимости от ориентации детектора кривой. Симметрия задачи отражается в симметрии весов. Мы называем схемы, в которых проявляется это явление, «эквивариантной схемой» и подробно обсудим это в следующей статье.

    Контур 2: Ориентированное обнаружение головы собаки

    Схема детектора кривой является схемой низкого уровня и охватывает только два уровня. В этом разделе мы обсудим схему более высокого уровня, охватывающую четыре уровня. Эта схема также научит нас тому, как нейронные сети реализуют сложные инварианты.

    Помните, что большая часть того, что должна делать модель ImageNet, — это различать разных животных. В частности, он должен различать сотню разных пород собак! Поэтому неудивительно, что он развивает большое количество нейронов, предназначенных для распознавания черт, связанных с собаками, включая головы.

    В этой системе «распознавания собак» одна схема кажется нам особенно интересной: набор нейронов, которые обрабатывают головы собак, обращенные влево, и головы собак, обращенные вправо. На трех уровнях сеть поддерживает два зеркальных пути, обнаруживая аналогичные единицы, обращенные налево и направо. На каждом этапе эти пути пытаются подавлять друг друга, усиливая контраст. Наконец, он создает инвариантные нейроны, которые реагируют на оба пути.

    Мы называем этот паттерн «объединением по наблюдениям».Сеть по отдельности определяет два случая (левый и правый), а затем объединяет их для создания инвариантных «многогранных» единиц. Обратите внимание, что, поскольку эти два пути подавляют друг друга, эта схема на самом деле имеет некоторые свойства, подобные XOR.

    Эта схема поражает воображение, потому что сеть могла бы легко сделать что-то гораздо менее сложное. Он мог легко создать инвариантные нейроны, не особо заботясь о том, где располагаются глаза, мех и морда, и просто ища их в беспорядке.Но вместо этого сеть научилась разделять левый и правый случаи и обрабатывать их по отдельности. Мы несколько удивлены, что градиентный спуск может научиться этому! Чтобы было ясно, есть также более прямые пути, по которым различные составляющие головы влияют на эти более поздние детекторы головы, не проходя через левый и правый пути

    Но это краткое изложение схемы лишь поверхностное представление о том, что происходит. Каждое соединение между нейронами представляет собой свертку, поэтому мы также можем посмотреть, где входной нейрон возбуждает следующий.И модели имеют тенденцию делать то, на что вы оптимистично надеялись. Например, рассмотрим модели «голова с шеей». Голова определяется только с правильной стороны:

    Ступень объединения также интересно рассмотреть в деталях. Сеть не реагирует на головы без разбора в двух направлениях: области возбуждения простираются от центра в разных направлениях в зависимости от ориентации, позволяя мордам сходиться в одной точке.

    Об этой схеме можно сказать еще много, поэтому мы планируем вернуться к ней в следующей статье и подробно проанализировать ее, включая проверку нашей теории схемы путем редактирования весов.

    Контур 3: Автомобили в суперпозиции

    В mixed4c , среднем и позднем слое InceptionV1, есть нейрон, обнаруживающий автомобиль. Используя функции из предыдущих слоев, он ищет колеса внизу своего сверточного окна и окна вверху.

    Но тут модель удивляет. Вместо того, чтобы создавать еще один чистый автомобильный детектор на следующем уровне, он распределяет свою автомобильную функцию на ряд нейронов, которые, по-видимому, в первую очередь делают что-то еще, в частности, детекторы собак.

    Эта схема предполагает, что многозначные нейроны в некотором смысле преднамерены. То есть вы можете представить себе мир, в котором процесс обнаружения автомобилей и собак по какой-то причине был глубоко переплетен с моделью, и в результате было трудно избежать многозначных нейронов.Но здесь мы видим, что модель имела «чистый нейрон», а затем смешивала его с другими функциями.

    Мы называем это явление суперпозицией.

    Зачем ему такое? Мы считаем, что суперпозиция позволяет модели использовать меньше нейронов, сохраняя их для более важных задач. Пока машины и собаки не встречаются вместе, модель может точно извлекать особенность собаки на более позднем слое, позволяя ей сохранять эту особенность без выделения нейрона. По сути, это свойство геометрии многомерного пространства, которые допускают только n ортогональных векторов, но экспоненциально много почти ортогональных векторов.

    Мотивы схем

    Поскольку мы изучили схемы в InceptionV1 и других моделях, мы видели одни и те же абстрактные узоры снова и снова. Эквивариантность, как мы видели с детекторами кривых. Объединение случаев, как мы видели на примере детектора головы собаки с неизменной позой. Наложение, как мы видели с автомобильным детектором.

    В биологии мотив схемы — это повторяющийся образец в сложных графах, таких как сети транскрипции или биологические нейронные сети.Мотивы полезны, потому что понимание одного мотива может дать исследователям возможность использовать все графы, где он встречается.

    Мы считаем весьма вероятным, что изучение мотивов будет иметь важное значение для понимания схем искусственных нейронных сетей. В конечном итоге это может оказаться более важным, чем изучение отдельных цепей. В то же время мы ожидаем, что исследования мотивов принесут пользу, если мы сначала построим прочный фундамент хорошо изученных схем.


    Пункт 3: Универсальность

    Аналогичные функции и схемы образуются во всех моделях и задачах.

    Широко признано, что первый уровень моделей зрения, обученных на естественных изображениях, будет изучать фильтры Габора. Если вы согласитесь с тем, что на более поздних слоях есть значимые особенности, будет ли действительно удивительно, если эти же особенности также будут формироваться на более высоких уровнях, чем на первом? И если вы поверите, что на нескольких уровнях есть аналогичные объекты, не будет ли для них естественным соединяться одними и теми же способами?

    Ранее предлагалось универсальность (или «конвергентное обучение») функций.Предыдущие исследования показали, что разные нейронные сети могут создавать сильно коррелированные нейроны. и что они изучают похожие представления на скрытых слоях. Эта работа кажется весьма многообещающей, но существуют альтернативные объяснения формирования аналогичных признаков. Например, можно представить себе две функции — такие как детектор текстуры меха и сложный детектор тела собаки — которые сильно коррелируют, несмотря на то, что они являются важными разными функциями. Если придерживаться осмысленной точки зрения скептицизма к особенностям, это не кажется окончательным.

    В идеале хотелось бы охарактеризовать несколько характеристик, а затем строго продемонстрировать, что эти особенности — а не только коррелированные — формируются во многих моделях. Затем, чтобы дополнительно установить, что образуются аналогичные схемы, нужно найти аналогичные функции на нескольких уровнях нескольких моделей и показать, что между ними в каждой модели формируется одна и та же структура весов.

    К сожалению, единственное свидетельство, которое мы можем предложить сегодня, носит анекдотический характер: мы просто еще не вложили достаточно средств в сравнительное изучение функций и схем, чтобы дать уверенные ответы.С учетом вышесказанного, мы заметили, что пара низкоуровневых функций, похоже, формируется в различных архитектурах моделей видения (включая AlexNet, InceptionV1, InceptionV3 и остаточные сети) и в моделях, обученных на Places365 вместо ImageNet. Мы также наблюдали, как они неоднократно формировались в ванильных сетях, обученных с нуля на ImageNet.

    Детекторы кривых

    Детекторы высокой и низкой частоты

    Эти результаты заставили нас подозревать, что гипотеза универсальности, вероятно, верна, но потребуется дальнейшая работа, чтобы понять, является ли очевидная универсальность некоторых функций зрения низкого уровня исключением или правилом.

    Если окажется, что гипотеза универсальности в целом верна для нейронных сетей, Возникает соблазн задуматься: могут ли биологические нейронные сети также обучаться аналогичным функциям? Исследователи, работающие на стыке нейробиологии и глубокого обучения, уже показали, что единицы в моделях искусственного зрения могут быть полезны для моделирования биологических нейронов. Считается, что некоторые из функций, которые мы обнаружили в искусственных нейронных сетях, таких как детекторы кривых, существуют и в биологических нейронных сетях (например,грамм. ). Это кажется серьезным поводом для оптимизма. Одна особенно захватывающая возможность могла бы быть, если бы искусственные нейронные сети могли предсказывать особенности, которые ранее были неизвестны, но затем могут быть обнаружены в биологии. (Некоторые нейробиологи, с которыми мы говорили, предположили, что высокочастотные детекторы могут быть кандидатом на это.) Если бы такое предсказание могло быть сделано, это стало бы чрезвычайно убедительным доказательством гипотезы универсальности.

    Сосредоточившись на изучении схем, действительно ли необходима универсальность? В отличие от первых двух утверждений, это не было бы фатальным для исследования схем, если бы это утверждение оказалось ложным.Но это очень помогает понять, какие исследования имеют смысл. Мы представили схемы как своего рода «клеточную биологию глубокого обучения». Но представьте себе мир, в котором у каждого вида есть клетки с совершенно разным набором органелл и белков. Будет ли все еще иметь смысл изучать клетки в целом, или мы ограничимся узким изучением нескольких видов особенно важных видов клеток? Точно так же представьте себе изучение анатомии в мире, где каждый вид животных имеет совершенно не связанную анатомию: будем ли мы серьезно изучать что-либо, кроме людей и пары домашних животных?

    Точно так же гипотеза универсальности определяет, какая форма исследования схем имеет смысл.Если бы это было правдой в самом сильном смысле, можно было бы представить себе своего рода «периодическую таблицу визуальных характеристик», которую мы наблюдаем и каталогизируем по моделям. С другой стороны, если бы это было в основном ложным, нам нужно было бы сосредоточиться на нескольких моделях, имеющих особое социальное значение, и надеяться, что они перестанут меняться каждый год. Также могут быть промежуточные миры, где одни уроки передаются между моделями, а другие нужно извлекать с нуля.


    Интерпретируемость как естествознание

    Структура научных революций Томаса Куна — классический текст по истории и социологии науки.В нем Кун проводит различие между «нормальной наукой», в которой у научного сообщества есть парадигма, и «экстраординарной наукой», в которой у сообщества нет парадигмы либо потому, что у него ее никогда не было, либо потому, что оно было ослаблено кризисом. Стоит отметить, что «экстраординарная наука» — нежелательное состояние: это период, когда исследователи изо всех сил стараются быть продуктивными.

    Описание Куном предпарадигматических полей пугающе напоминает сегодняшнюю интерпретируемость.Нас познакомили с работой Куна и этой связью в беседах с Томом МакГратом в DeepMind. Нет единого мнения о том, что представляют собой объекты исследования, какие методы мы должны использовать, чтобы ответить на них, или как оценивать результаты исследований. Процитирую недавнее интервью с Яном Гудфеллоу: «Что касается интерпретируемости, я не думаю, что у нас даже есть правильные определения».

    Один особенно сложный аспект пребывания в препарадигматическом поле состоит в том, что нет единого мнения о том, как оценивать работу с точки зрения интерпретируемости.Есть два общих предложения для решения этой проблемы, основанные на стандартах смежных областей. Некоторым исследователям, особенно с опытом глубокого обучения, нужен «эталон интерпретируемости», который может оценить, насколько эффективен метод интерпретируемости. Другие исследователи, имеющие опыт работы с HCI, могут пожелать оценить методы интерпретируемости с помощью пользовательских исследований.

    Но интерпретируемость также может быть заимствована из третьей парадигмы: естествознания. С этой точки зрения нейронные сети являются объектом эмпирического исследования, возможно, похожим на организм в биологии.Такая работа будет пытаться сделать эмпирические утверждения о данной сети, которые могут считаться опровергнутыми.

    Почему мы не видим больше такой оценки работы в интерпретируемости и визуализации? Чтобы быть ясным, мы действительно видим исследователей, которые больше используют этот естественнонаучный подход, особенно в более ранних исследованиях интерпретируемости. Просто сейчас это кажется менее распространенным. Особенно с учетом того, что существует так много смежных работ по машинному обучению, которые действительно принимают этот фрейм! Одна из причин может заключаться в том, что очень сложно делать достоверные утверждения о поведении нейронной сети в целом.Это невероятно сложные объекты. Трудно также формализовать, какими именно были бы интересные эмпирические утверждения о них. И поэтому мы часто получаем стандарты оценки, более ориентированные на то, полезен ли метод интерпретируемости, а не на то, изучаем ли мы истинные утверждения.

    Цепи обходят эти проблемы, сосредотачиваясь на крошечных подграфах нейронной сети, для которых можно провести тщательное эмпирическое исследование. Их очень легко опровергнуть: например, если вы разбираетесь в схеме, вы сможете предсказать, что изменится, если вы измените веса.Фактически, для достаточно малых схем утверждения об их поведении становятся вопросами математических рассуждений. Конечно, цена такой строгости заключается в том, что утверждения о схемах намного меньше по объему, чем общее поведение модели. Но похоже, что при достаточных усилиях утверждения о поведении модели можно разбить на утверждения о схемах. Если так, возможно, схемы могли бы действовать как своего рода эпистемическая основа для интерпретируемости.


    Заключительные мысли

    Мы считаем само собой разумеющимся, что микроскоп является важным научным инструментом.Это практически символ науки. Но так было не всегда, и сначала микроскопы не стали популярным научным инструментом. Фактически, они, кажется, томились около пятидесяти лет. Поворотным моментом стало то, что Роберт Гук опубликовал Micrographia, коллекцию рисунков того, что он видел с помощью микроскопа, включая первое изображение клетки.

    У нас сложилось впечатление, что в сообществе интерпретируемых есть некоторая обеспокоенность по поводу того, что нас не воспринимают всерьез.Что это исследование слишком качественное. Что это ненаучно. Но урок микроскопа и клеточной биологии состоит в том, что, возможно, этого и следовало ожидать. Открытие клеток стало качественным результатом исследования. Это не помешало ему изменить мир.


    Эта статья является частью потока Circuits, сборника коротких статей и комментариев открытого научного сообщества, посвященного внутреннему устройству нейронных сетей.

    Цепи Резьба Обзор раннего видения на начальном этапе V1

    Глоссарий

    Это эссе вводит новую терминологию, а также использует некоторую терминологию, которая не является общепринятой. В помощь мы предлагаем следующий глоссарий:

    Контур — Подграф нейронной сети. Узлы соответствуют нейронам или направлениям (линейные комбинации нейронов). Между двумя узлами есть ребро, если они находятся в соседних слоях.Ребра имеют веса, которые являются весами между этими нейронами (или n 1 Wn 2 T , если узлы являются линейными комбинациями). Для сверточных слоев веса — это двумерные матрицы, представляющие веса для различных относительных положений слоев.

    Схема — Повторяющийся абстрактный паттерн, встречающийся в схемах, такой как эквивариантность или объединение падежей. Вдохновленный использованием схемных мотивов в системной биологии.

    Клиентский нейрон или клиентская функция — Нейрон в более позднем слое, который полагается на конкретный более ранний нейрон. Например, круговой детектор является клиентом детекторов кривых.

    Направление — Линейная комбинация нейронов в слое. Эквивалентно вектор в представлении слоя. Направление может быть отдельным нейроном (которое является базисным направлением векторного пространства). Чтобы получить представление о направлениях как об объекте, см. Стандартные блоки (в частности, раздел «Что видит сеть?») И Атласы активации.

    Нисходящий / восходящий поток — На более позднем уровне / На более раннем уровне.

    Эквивалентность — Для получения информации об эквивариантности в контексте схем (например, эквивариантных функций, эквивариантных схем) см. Статью о схемах, посвященную эквивариантности. Более общую идею эквивариантности в математике можно найти в статье об эквивариантной карте в Википедии.

    Семья — Набор функций, обнаруженных на одном слое, которые обнаруживают небольшие вариации одного и того же.Например, детекторы кривых существуют в семействе, обнаруживая кривые в разной ориентации.

    Элемент — Скалярная функция входа. В этом эссе нейронные сети представляют собой направления, а часто и отдельные нейроны. Мы утверждаем, что такие особенности нейронных сетей обычно являются значимыми функциями, которые можно тщательно изучить (утверждение 1).

    Значимая характеристика — Функция, которая действительно реагирует на артикулируемое свойство ввода, такое как наличие кривой или гибкого уха.Значимые функции могут по-прежнему быть шумными или несовершенными.

    Полисемантический признак — Функция, которая реагирует на несколько несвязанных скрытых переменных, таких как нейрон кошка / автомобиль. Это можно рассматривать как частный случай «многогранных особенностей», которые реагируют на несколько различных случаев, но включают как «настоящие» многогранные особенности, такие как голова собаки, инвариантная позы, или многозначные нейроны. Противопоставьте чистому.

    Чистая особенность — Функция, которая реагирует только на одну скрытую переменную.Противопоставьте многозначности.

    Универсальная функция — Функция, которая надежно формируется для разных моделей и задач.

    Представительство — Векторное пространство, образованное активациями всех нейронов в слое, с векторами формы (активация нейрона 1, активация нейрона 2,…) . Представление можно рассматривать как совокупность всех функций, существующих в слое. Для интуитивного понимания представлений в моделях зрения см. Атласы активации.

    Авторские взносы

    Writing: Текст этого эссе в основном был написан Кристофером Олахом, в значительной степени опираясь на исследования и размышления всей команды Clarity. Ник Каммарата принимал активное участие в разработке кадра и редактировании окончательного текста.

    Research: В этом эссе сформулированы темы, которые возникли в результате исследований нескольких людей о том, как нейронные сети реализуют функции.Крис начал первые попытки понять механистические реализации нейронов с точки зрения их веса в 2018 году и разработал несколько инструментов, которые позволили это направление работы. Эта работа была расширена Габриэлем Гохом, который открыл первый из того, что мы теперь называем мотивами (используя отрицательные веса для специализации), в дополнение к описанию механизмов, лежащих в основе нескольких нейронов. На этом этапе Ник Каммарата занялся этим направлением исследований, чтобы охарактеризовать гораздо более крупные и глубокие цепи, значительно расширить число нейронов, которые мы понимаем механически, и выполнил подробные, строгие характеристики детекторов кривых.Ник также представил связь с системной биологией. Людвиг Шуберт провел подробный анализ высокочастотных детекторов. Крис всегда давал советы по исследованию и наставничество.

    Инфраструктура: Майкл Петров, Шан Картер, Людвиг и Ник создали множество инфраструктурных инструментов, которые сделали наши исследования возможными.

    Историческая записка

    Идеи этого вводного эссе ранее были представлены в качестве основного доклада Криса Олаха на VISxAI 2019.Он также был неофициально представлен в MILA, Институте вектора, Центре нейробиологии Редвуд и на частном семинаре.

    Благодарности

    Всей нашей работой по пониманию InceptionV1 мы обязаны Алексу Мордвинцеву, чьи ранние исследования моделей зрения проложили пути, по которым мы все еще идем. Мы глубоко признательны Нику Барри и Софии Сэнборн за их глубокое участие в поиске потенциальных связей между нашей работой и нейробиологией. и Тому МакГрату, который указал на сходство между «допарадигматической наукой» Куна и интерпретируемостью государства как поля для нас.Осторожные комментарии и критика Брайса Менара также сыграли неоценимую роль в уточнении этого эссе.

    В дополнение к глубокому взаимодействию Ника и Софии, мы в целом признательны сообществу нейробиологов за то, что они взаимодействуют с нами, особенно в обмене с трудом извлеченными уроками о методологических недостатках нашей работы. В частности, мы ценим Брайана Ванделла, который в 2019 году подтолкнул нас к отказу от использования кривых настройки и важность семейств нейронов, что, по нашему мнению, сделало нашу работу намного сильнее.Мы также очень благодарны за комментарии и поддержку Марейке Гротеер, Наталье Биленко, Бруно Ольсхаузену, Майклу Эйкенбергу, Чарльзу Фраю, Филиппу Сабесу, Полу Меролле, Джеймсу Редду, Тонг-Вей Кох и Ивану Альваресу. Мы думаем, что нам есть чему поучиться у сообщества нейробиологов, и мы рады продолжать это делать.

    Одним из преимуществ работы над схемами было открытое сотрудничество и обратная связь в канале Distill Slack #circuits.Мы особенно признательны за подробные отзывы, полученные от Стефана Зитцена, Шахаба Бахтиари и Флоры Лю. (Стефан также реализовал многие из этих идей, и мы будем рады видеть его работы в будущих статьях в этой ветке!).

    Нам очень помогли комментарии многих людей по мета-науке и вопросы, связанные с этим эссе, но особенно ценили комментарии Арвинда Сатьянараяна, Майлза Брандейджа, Аманды Аскелл, Аарона Курвилля и Мартина Ваттенберга.Мы благодарны Тако Коэн, Тесс Смидт и Саре Сабур за их чрезвычайно полезные комментарии по поводу эквивалентности. Мы благодарны Никите Обидину, Нику Барри и Челси Восс за полезные беседы и ссылки на системную биологию и схемы схем. (Никита и Ник сначала познакомили Ника Каммарату с схемными мотивами.) Наконец, мы благодарны за институциональную поддержку OpenAI, а также за поддержку и комментарии всех наших коллег и друзей из разных организаций, включая Дарио Амодеи, Даниэлу Амодеи, Джонатана Уесато, Лору Болл, Катарину Слама, Алети Пауэр, Джейкоба Хилтона, Джейкоб Стейнхардт, Том Браун, Притум Наккиран, Илья Суцкевер, Райан Лоу, Эрин МакКлоски, Эли Чен, Фред Хохман, Джейсон Йосински, Паллави Коппол, Рейхрио Накано, Сэм МакКэндлиш, Дэниел Дьюи, Анна Голди, Йохен Гёртлер, Йохен Гёртлер Стэнтлер, , Том Уайт, Роджер Гросс, Дэвид Дювено, Дэниел Буркхард, Джанель Там, Джефф Клун, Кристиан Сегеди, Алек Рэдфорд, Алекс Рэй, Эван Хубингер, Скотт Грей, Август Одена, Михиал Павлов, Даниэль Филан, Яша Золь-Дикштейн и Крис Шанкаран .

    Ссылки

    1. Micrographia: или некоторые физиологические описания мелких тел, сделанных с помощью увеличительных стекол. С наблюдениями и вопросами по этому поводу [ссылка]
      Гук, Р., 1666. Королевское общество. DOI: 10.5962 / bhl.title.904
    2. Визуализация и понимание рекуррентных сетей [PDF]
      Карпати, А., Джонсон, Дж. И Фей-Фей, Л., 2015. препринт arXiv arXiv: 1506.02078.
    3. Визуализация высокоуровневых характеристик глубокой сети [PDF]
      Erhan, D., Bengio, Y., Courville, A. и Vincent, P., 2009. Университет Монреаля, том 1341, стр. 3.
    4. Визуализация функций [ссылка]
      Олах, К., Мордвинцев, А. и Шуберт, Л. ., 2017. Дистилль. DOI: 10.23915 / distill.00007
    5. Сверточные сети глубоко внутри: визуализация моделей классификации изображений и карт значимости [PDF]
      Симонян К., Ведальди А. и Зиссерман А., 2013. Препринт arXiv arXiv: 1312.6034.
    6. Глубокие нейронные сети легко обмануть: предсказания с высокой степенью достоверности для неузнаваемых изображений [PDF]
      Nguyen, A., Йосински Дж. И Клун Дж., 2015. Труды конференции IEEE по компьютерному зрению и распознаванию образов, стр. 427-436. DOI: 10.1109 / cvpr.2015.7298640
    7. Inceptionism: Углубление в нейронные сети [HTML]
      Мордвинцев А., Олах К. и Тыка М., 2015. Исследовательский блог Google.
    8. Генеративные сети Plug & play: условная итеративная генерация изображений в скрытом пространстве [PDF]
      Нгуен А., Клун Дж., Бенжио Ю., Досовицкий А. и Йосински Дж., 2016.Препринт arXiv arXiv: 1612.00005.
    9. Визуализация и понимание сверточных сетей [PDF]
      Zeiler, M.D. и Fergus, R., 2014. Европейская конференция по компьютерному зрению, стр. 818-833.
    10. Интерпретируемые объяснения черных ящиков с помощью значимого возмущения [PDF]
      Фонг Р. и Ведальди А., 2017. Препринт arXiv arXiv: 1704.03296.
    11. PatternNet и PatternLRP — Улучшение интерпретируемости нейронных сетей [PDF]
      Киндерманс, П., Шутт, К.Т., Альбер, М., Мюллер, К. и Дан, С., 2017. Препринт arXiv arXiv: 1705.05598. DOI: 10.1007 / 978-3-319-10590-1_53
    12. Визуализация и измерение геометрии BERT [PDF]
      Reif, E., Yuan, A., Wattenberg, M., Viegas, FB, Coenen, A., Пирс, А. и Ким, Б., 2019. Достижения в системах обработки нейронной информации, стр. 8592-8600.
    13. Атлас активации [ссылка]
      Картер, С., Армстронг, З., Шуберт, Л., Джонсон, И. и Олах, К., 2019. Distill, том 4 (3), стр. E15. DOI: 10.23915 / distill.00015
    14. Summit: Масштабирование интерпретируемости глубокого обучения путем визуализации сводок активации и атрибуции [PDF]
      Хохман, Ф., Парк, Х., Робинсон, К. и Чау, DHP, 2019. Транзакции IEEE по визуализации и компьютерной графике, том 26 (1), с. 1096—1106. IEEE.
    15. Распределенные представления слов и фраз и их композиционность [PDF]
      Миколов, Т., Суцкевер, И., Чен, К., Коррадо, Г.С. и Дин, Дж., 2013. Достижения в системах обработки нейронной информации, стр.3111-3119.
    16. Обучение составлению обзоров и выявление настроений [PDF]
      Рэдфорд, А., Йозефович, Р. и Суцкевер, И., 2017. Препринт arXiv arXiv: 1704.01444.
    17. Детекторы объектов появляются в глубоких узлах сцены [PDF]
      Чжоу, Б., Хосла, А., Лапедриза, А., Олива, А. и Торральба, А., 2014. Препринт arXiv arXiv: 1412.6856.
    18. Network Dissection: Количественная оценка интерпретируемости глубоких визуальных представлений [PDF]
      Bau, D., Zhou, B., Khosla, A., Oliva, A.и Торральба, А., 2017. Компьютерное зрение и распознавание образов.
    19. Об интерпретируемости и представлении признаков: анализ настроений Neuron
      Доннелли, Дж. И Рогест, А., 2019. Европейская конференция по информационному поиску, стр. 795-802.
    20. Измерение тенденции CNN к изучению поверхностных статистических закономерностей [PDF]
      Джо, Дж. И Бенжио, Ю., 2017. препринт arXiv arXiv: 1711.11561.
    21. CNN, обученные ImageNet, склонны к текстуре; увеличение смещения формы улучшает точность и надежность [PDF]
      Geirhos, R., Рубиш, П., Михаэлис, К., Бетге, М., Вичманн, Ф.А. и Брендель, В., 2018. Препринт arXiv arXiv: 1811.12231.
    22. Приближение CNN с моделями с набором локальных функций на удивление хорошо работает на imagenet [PDF]
      Brendel, W. and Bethge, M., 2019. arXiv preprint arXiv: 1904.00760.
    23. Состязательные примеры — это не ошибки, это особенности [PDF]
      Ильяс, А., Сантуркар, С., Ципрас, Д., Энгстрем, Л., Тран, Б. и Мадри, А., 2019. Достижения в нейронной Системы обработки информации, стр.125-136.
    24. О важности отдельных направлений для обобщения [PDF]
      Моркос А.С., Барретт Д.Г., Рабинович Н.С. и Ботвиник М., 2018. Препринт arXiv arXiv: 1803.06959.
    25. Глубокое обучение [PDF]
      ЛеКун Й., Бенжио Й. и Хинтон Г., 2015. Nature, Том 521 (7553), стр. 436-444. Издательская группа «Природа».
    26. Углубление с извилинами [PDF]
      Сегеди, К., Лю, В., Цзя, Ю., Серманет, П., Рид, С., Ангелов, Д., Эрхан, Д., Ванхаук, В., Рабинович, А.и др., 2015. DOI: 10.1109 / cvpr.2015.7298594
    27. Рецептивные поля, бинокулярное взаимодействие и функциональная архитектура зрительной коры головного мозга кошки
      Хьюбел, Д.Х. и Визель, Теннесси, 1962. Журнал физиологии, Том 160 (1), С. 106—154. Интернет-библиотека Wiley.
    28. Использование искусственного интеллекта для расширения человеческого интеллекта [ссылка]
      Картер С. и Нильсен М., 2017. Distill. DOI: 10.23915 / distill.00009
    29. Многогранная визуализация функций: раскрытие различных типов функций, которые изучает каждый нейрон в глубоких нейронных сетях [PDF]
      Nguyen, A., Йосински Дж. И Клун Дж., 2016. Препринт arXiv arXiv: 1602.03616.
    30. Введение в системную биологию: принципы проектирования биологических схем
      Алон, У., 2019. CRC press. DOI: 10.1201 / 9781420011432
    31. Конвергентное обучение: обучаются ли разные нейронные сети одним и тем же представлениям? [PDF]
      Li, Y., Yosinski, J., Clune, J., Lipson, H., Hopcroft, J.E., 2015. FE @ NIPS, pp. 196-212.
    32. SVCCA: сингулярный векторный канонический корреляционный анализ для динамики глубокого обучения и интерпретируемости [PDF]
      Raghu, M., Гилмер, Дж., Йосински, Дж. И Золь-Дикштейн, Дж., 2017. Достижения в системах обработки нейронной информации 30, стр. 6078-6087. Curran Associates, Inc.
    33. Еще раз о подобии представлений нейронных сетей [PDF]
      Корнблит, С., Норузи, М., Ли, Х. и Хинтон, Г., 2019. Препринт arXiv arXiv: 1905.00414.
    34. Классификация ImageNet с глубокими сверточными нейронными сетями [PDF]
      Крижевский А., Суцкевер И. и Хинтон Г.Э., 2012. Достижения в системах обработки нейронной информации 25, стр.1097-1105. Curran Associates, Inc.
    35. Очень глубокие сверточные сети для распознавания крупномасштабных изображений [PDF]
      Симонян К. и Зиссерман А., 2014. CoRR, Vol abs / 1409.1556.
    36. Глубокое остаточное обучение для распознавания изображений [PDF]
      Хе, К., Чжан, X., Рен, С. и Сан, Дж., 2015. CoRR, Vol abs / 1512.03385.
    37. Оптимизированные по производительности иерархические модели предсказывают нейронные реакции в высших зрительных кортексах
      Яминь, Д.Л., Хонг, Х., Кадье, К.Ф., Соломон, Э.А., Зайберт, Д. и ДиКарло, Дж. Дж., 2014. Proceedings of the National Academy of Sciences, Vol 111 (23), pp. 8619-8624. Национальная академия наук.
    38. Глубинные нейронные сети обнаруживают градиент сложности нейронных представлений в вентральном потоке
      Гу {\ c {c}} лу, У. и ван Гервен, Массачусетс, 2015. Journal of Neuroscience, Vol 35 (27), pp 10005—10014. Soc Neuroscience.
    39. Видеть все: слои сверточной сети отображают функцию зрительной системы человека
      Eickenberg, M., Грамфорт, А., Вароко, Г., Тирион, Б., 2017. NeuroImage, том 152, стр. 184—194. Эльзевир.
    40. Дискретные нейронные кластеры кодируют ориентацию, кривизну и углы в макаке V4 [ссылка]
      Цзян, Р., Ли, М. и Тан, С., 2019. bioRxiv. Лаборатория Колд-Спринг-Харбор. DOI: 10.1101 / 808907
    41. Представление формы в области V4: позиционно-зависимая настройка для граничной конформации
      Pasupathy, A. и Connor, C.E., 2001. Journal of neurophysiology, Vol 86 (5), pp. 2505-2519.Американское физиологическое общество Bethesda, MD.
    42. Структура научных революций
      Кун, Т.С., 1962. Издательство Чикагского университета. DOI: 10.7208 / chicago / 9780226458106.001.0001
    43. Ян Гудфеллоу: Генеративные состязательные сети [ссылка]
      Гудфеллоу И. и Фридман Л., 2019. Подкаст по искусственному интеллекту.
    44. Строительные блоки интерпретируемости [ссылка]
      Олах, К., Сатьянараян, А., Джонсон, И., Картер, С., Шуберт, Л., Е, К. и Мордвинцев, А., 2018. Дистилль. DOI: 10.23915 / distill.00010

    Обновления и исправления

    Если вы видите ошибки или хотите предложить изменения, создайте проблему на GitHub.

    Повторное использование

    Диаграммы и текст находятся под лицензией Creative Commons Attribution CC-BY 4.0 с исходным кодом, доступным на GitHub, если не указано иное. Рисунки, которые были повторно использованы из других источников, не подпадают под эту лицензию и могут быть распознаны по пометке в их подписи: «Рисунок из…».

    Цитата

    Для атрибуции в академическом контексте, пожалуйста, процитируйте эту работу как

     Олах и др., «Увеличить масштаб: введение в схемы», Distill, 2020. 

    Ссылка на BibTeX

     @article {olah3020zoom,
      author = {Олах, Крис и Каммарата, Ник и Шуберт, Людвиг и Го, Габриэль и Петров, Майкл и Картер, Шан},
      title = {Увеличить масштаб: введение в схемы},
      journal = {Distill},
      год = {2020},
      note = {https: // distill.pub / 2020 / circuit / zoom-in},
      doi = {10.23915 / distill.00024.001}
    } 
    .

    alexxlab

    Добавить комментарий

    Ваш адрес email не будет опубликован. Обязательные поля помечены *