Системный картинки подход: D1 81 d0 b8 d1 81 d1 82 d0 b5 d0 bc d0 bd d1 8b d0 b9 d0 bf d0 be d0 b4 d1 85 d0 be d0 b4 картинки, стоковые фото D1 81 d0 b8 d1 81 d1 82 d0 b5 d0 bc d0 bd d1 8b d0 b9 d0 bf d0 be d0 b4 d1 85 d0 be d0 b4

Рассмотрим процесс генерации данных в контексте изображения набор данных для классификации.Каждое изображение имеет как причинно-следственные связи, так и атрибуты предметной области. Атрибуты домена — это функции без причинной связи с меткой. Они могут обозначать различные условия измерения, такие как места, время, экспериментальные условия, контексты во время сбора данных. Примером атрибута домена на изображении выше являются освещение, поворот, масштаб и фоновый пейзаж. Ни один из этих атрибутов не имеет отношения к определению, что это изображение является изображением кошки. Причинные признаки имеют прямую причинную связь с ярлыком.В приведенном выше примере форма и текстура, характерные для кошки.

На изображении выше (справа) показана структурно-причинная модель (SCM) процесса генерации данных. Соответствующий направленный ациклический график (DAG) показан слева, где серый узел обозначает наблюдаемую переменную, а белый узел обозначает скрытую (ненаблюдаемую) переменную. Здесь:

 d -> домен -> class labelh  d ->  Атрибуты домена:   высокоуровневые функции, такие как освещение, вращение, масштаб, вызванные domainhy ->  Причинные особенности:  высокоуровневых функций, таких как форма и текстура, вызванная классом объекта 

Проблемы возникают, когда один из атрибутов домена имеет корреляцию с меткой, такая корреляция называется ложной корреляцией .Любая корреляция, которая не возникает из прямой причинно-следственной связи, может считаться ложной. Смешивающие переменные и систематическая ошибка отбора — частые причины этих ложных корреляций.

Поскольку модель принимает данные с намерением найти сопоставление входных изображений с меткой, у нее нет возможности различать причинные и ложные связи. Глубокие нейронные сети — это машины с низким смещением и высокой дисперсией, которые легко изучают ложные корреляции в обучающих данных.Затем эти модели не могут быть обобщены для новых наборов данных и сред, где ложные корреляции обучающих данных не выполняются.

Интуитивно корреляция является ложной, если мы не ожидаем, что она сохранится в будущем так же, как в прошлом. Другими словами, ложные корреляции не кажутся стабильными свойствами ~ Минимизация инвариантного риска

Помимо ложной корреляции, низкая вариация в атрибутах домена — еще одна проблема, которая может привести к тому, что нейронные сети узнают взаимосвязь между атрибутами домена и меткой.Мы подробно диагностируем эту проблему в этом посте: Поразительный отказ нейронных сетей из-за обусловленности совершенно несущественными свойствами данных

Следовательно, есть две основные проблемы с набором данных, которые могут препятствовать моделированию инвариантности к обучению.

1. Ложные корреляции
2. Отсутствие вариаций в атрибуте предметной области

Если модель основана на причинно-следственных связях, а не на ложных корреляциях, она будет хорошо обобщена для других сред. Это потому, что причинно-следственные связи по определению инвариантны к изменениям предметной области.

В чем разница между предсказаниями, сделанными с помощью причинной модели, и непричинной модели? Предположим, мы вмешиваемся в переменные-предикторы или меняем всю среду. Прогнозы на основе причинно-следственной модели в целом будут работать как при вмешательствах, так и для данных наблюдений. Напротив, прогнозы непричинной модели потенциально могут быть очень ошибочными, если мы будем активно вмешиваться в переменные. ~ Причинный вывод с использованием инвариантного предсказания

Для обучения устойчивых моделей нам нужно, чтобы они были инвариантными для всех атрибутов предметной области.

Позвольте нам представить структурированный подход, который вы можете использовать для обеспечения максимальной инвариантности предметной области и надежности в ваших нейронных сетях. Мы определим атрибуты домена и спроектируем сеть, инвариантную для них.

Интересно, что мы обнаружили, что особенно в более прикладных областях, таких как медицинская визуализация и робототехника, исследователи нашли практический способ справиться с ложной корреляцией между областями и реальной задачей. Увеличение данных в сочетании с минимизацией эмпирических рисков (ERM) используется для обеспечения инвариантности модели машинного обучения по отношению к изменениям в основной работе.Таким образом, предварительные знания используются для выбора подходящего дополнения данных. ~ Выбор расширения данных для моделирования вмешательств

Подобные подходы появлялись кое-где в литературе, как пример выше, но мы хотим предложить последовательный и исчерпывающий подход к построению инвариантности в сетях.

Определение проблемы — очень важное упражнение, в котором должны участвовать как команда машинного обучения, так и эксперты предметной области.Результатом этого упражнения должно быть:

1. Четкая формулировка проблемы
2. Список желаемых инвариантов
3. Требования

Основная идея в этом упражнении состоит в том, чтобы сделать обоснованные предположения о причинно-следственном механизме генерации данных. Если истинная лежащая в основе причинная модель известна, мы можем легко перечислить причинные особенности и атрибуты предметной области и попытаться обеспечить инвариантность к атрибутам предметной области.

Но это очень сложно для задач большой размерности, таких как наборы данных изображений.Если бы мы знали точные ответы на такие вопросы, как изображение кошки, мы бы писали программное обеспечение, а не обучали модели, показывая им примеры. Часто проще ответить на вопросы типа «что не имеет значения, если вы хотите найти кошку на картинке?». Вот некоторые вещи, которые нас не волнуют:

1. положение кота
2. размер кота
3. относительное положение камеры и кота
4. яркость изображения, контрастная насыщенность и т. Д.
5. фон изображения

И все эти вещи будут атрибутами предметной области, и причинная модель будет для них инвариантной.По практическим причинам мы не пытаемся раскрыть весь причинно-следственный граф, управляющий всеми переменными (который может быть почти неразрешимым). Вместо этого мы сосредотачиваемся на инвариантах, которые мы можем установить на основе причинно-следственных рассуждений, и встроить их в сеть, чтобы улучшить обобщаемость.

Даже если все инварианты не исчерпаны, каждая дисперсия защищает от одного возможного источника плохого обобщения. Это упражнение требует глубоких знаний о проблеме, и в нем должны участвовать как инженеры по машинному обучению, так и эксперты в предметной области.Важные атрибуты домена — это те, которые с большей вероятностью изменятся в разных средах.

Давайте рассмотрим пример задачи классификации дорожных знаков США.

Определение проблемы: мы намерены создать нейронную сеть, которая будет принимать кадрированные изображения дорожных знаков, снятых камерой, установленной на транспортном средстве, и предсказывать класс дорожных знаков из заранее определенных классов.

Теперь мы оценим некоторые атрибуты и посмотрим, можно ли их назвать атрибутами домена.

Уловка: Самый простой способ ответить на вопрос, является ли объект атрибутом домена или нет, — это подумать как человек-аннотатор. Если вы добавите к изображению ту же метку, если этот атрибут меняется, то это атрибут домена. В противном случае это причинно-следственная связь.

Масштаб

Поскольку масштаб не влияет на метку класса, он является атрибутом домена. Расстояние между камерой и знаком может меняться, как и масштабирование камеры, что приводит к появлению знаков разного масштаба.Следовательно, эта вариация является обычным явлением, и для сети важно обеспечить ее инвариантность.

Поворот

Поворот — сложный случай. Как показано выше, небольшие повороты не влияют на метку, что делает ее атрибутом домена. Эксперты по домену говорят нам, что это небольшое изменение углов ожидается, потому что знаки могут немного наклоняться, или камера, прикрепленная к транспортному средству, также может наклоняться со временем.

А как насчет поворота на 90 градусов, как показано выше.Это действительно меняет символы и метку этого знака. Следовательно, вращение также является причинным атрибутом! Отсюда мы заключаем, что сеть должна быть инвариантной к малым (<45 градусов). Большие вращения имеют причинно-следственные связи с этикеткой.

Перевод

Поскольку перевод не влияет на метку класса, это атрибут домена. Эксперты в области говорят нам, что эта классификационная сеть питается от сети обнаружения знаков, которая не всегда дает урожай с центрированными знаками.Следовательно, это ожидаемая вариация, и важно добиться ее инвариантности.

Переворот по горизонтали и вертикали

Большинство знаков не имеют боковой или вертикальной симметрии. Эти преобразования могут изменить или исказить значение ярлыка. Следовательно, это причинные особенности, и неизменность между ними нежелательна.

Перспектива

Как мы видим, небольшие изменения перспективы, вызванные относительной позой камеры и знака, не влияют на метку, следовательно, это атрибут домена.Поскольку трансформация перспективы — это родительская группа, содержащая упомянутые выше трансформации, такие как вращение, мы должны относиться к ней осторожно. Для небольших изменений в перспективе перспектива — это атрибут предметной области и желаемая неизменность.

Обрезка

Обрезка небольшой части изображения по краям не влияет на этикетку, делая ее атрибутом домена. Также возможно столкнуться с этим сценарием при развертывании из-за несовершенного обнаружения и обрезки изображения знака.Следовательно, это желаемая инвариантность.

Цвет

Наши эксперты в предметной области говорят нам, что знаки имеют цветовую кодировку и, следовательно, цвет является причинной особенностью. Но мы знаем, что с точки зрения распределения цветового пространства красный — это не одно дискретное значение пикселей, а скорее диапазон значений, которые приведут к различным оттенкам красного. А из-за настроек сенсора (камеры) и освещения сцены ожидаются небольшие отклонения в цвете. Поэтому нам нужно развить инвариантность к небольшим цветовым возмущениям, подобным показанным ниже.

Яркость, контраст, насыщенность

Свойства изображения, такие как яркость, контрастность и насыщенность, не влияют на этикетку. Это атрибуты предметной области, которые могут изменяться в зависимости от камеры или освещения в сцене, и важно добиться их неизменности.

Размытие в движении

Размытие в движении — это свойство предметной области, не влияющее на метку. Изображения, снятые с движущихся транспортных средств, подвержены смазыванию при движении, и его неизменность важна.

Качество изображения

Качество изображения — это еще один атрибут домена, который зависит от типа камеры и используемых настроек. Наша сеть должна быть к нему инвариантна.

Тени

Тени часто встречаются на обочине дороги из-за транспортной инфраструктуры и окружающих зданий. Они создают локальные участки с низкой освещенностью. Наличие, форма и сила теней — это атрибуты предметной области, к которым мы должны развить инвариантность.

Погодные условия

Погодные условия, такие как дождь и снег, могут повлиять на изображение и оставить на нем артефакты. Эти артефакты являются атрибутами предметной области, против которых мы должны развить инвариантность.

Фон

Как показано на изображении выше, знаки могут иметь множество различных фонов. Фон изображения не имеет причинно-следственной связи с меткой знака, следовательно, это атрибут домена.

Как мы видели, качественное рассуждение, основанное на причинном рассуждении, является мощным и удобным и не требует сложного формального обучения причинному умозаключению.Размышление о причинном графе в попытке отделить причинные особенности и атрибуты предметной области заставляет нас тщательно исследовать нашу ментальную модель системы и позволяет нам интегрировать наши знания предметной области в систему.

Требования

Специалисты в предметной области и практики должны работать вместе, чтобы разработать системное требование с учетом варианта использования. Для задачи классификации дорожных знаков требования могут быть следующими:

1. Система должна иметь точность> 95%
2. Система должна быть инвариантной к трансляции, масштабу, яркости, контрастности, насыщенности, кадрированию, размытию, качеству изображения, погодным условиям, фону
3. Система должна быть инвариантной к небольшим возмущениям вращения, цвета и перспективы.

Следующим шагом является преобразование требований в критерии оценки модели. Сначала мы прокомментируем недостатки оценки набора тестов, который является обычно используемым критерием оценки модели. Так же, как модульное тестирование программного обеспечения, хорошо иметь количественный тест на инвариантность в вашей модели. Одна из основных проблем с текущей настройкой обучающих конвейеров — это IID-оценки.

Ограничения оценок тестовых наборов

Повсеместной практикой в ​​машинном обучении является выполнение оценки на независимых и одинаково распределенных (т.i.d.) испытательный набор. Независимость здесь относится к тому факту, что каждый пример выбирается независимо, а одинаковое распределение означает, что базовый процесс генерации данных одинаков. Когда мы случайным образом разделяем данные на обучающие и тестовые наборы, оба являются i.i.d. друг для друга.

Выше мы видели, что распределение данных представляет собой комбинацию атрибутов домена и причинно-следственных связей. Мы ожидаем, что причинно-следственные связи будут неизменными в разных средах. Но ассоциации атрибутов предметной области (ложные корреляции) могут изменяться от среды к среде.Таким образом, ложные корреляции обладают предсказательной силой в одной и той же среде, но не гарантируют, что они сохранятся в другой среде. Производственная среда может отличаться из-за предвзятого выбора или применения к невидимым доменам (например, новым местоположениям).

Так как i.i.d. набор данных можно рассматривать как одну и ту же среду, ложные корреляции могут быть полезны для производительности i.i.d. Следовательно, широко используемая метрика производительности набора тестов не позволяет провести различие между моделями, изучающими ложную корреляцию, и моделями, изучающими причинно-следственные связи.

К сожалению, в реальных настройках i.i.d. предположение редко бывает оправданным; Фактически, это предположение было названо «большой ложью в машинном обучении». Хотя любая метрика обычно является лишь приближением того, что мы действительно намереваемся измерить, i.i.d. Показатель производительности может быть плохим приближением, так как он часто может вводить в заблуждение, давая ложное ощущение безопасности. ~ Быстрое обучение в глубоких нейронных сетях

Подводя итог, производительность i.i.d (тестовый набор) не измеряет обобщаемость или предметную инвариантность модели. Итак, нам необходимо изменить общую парадигму оценки глубокого обучения для инвариантного и надежного моделирования.

В редком, вообразимом сценарии, когда вы думаете, что предположение i.i.d будет сохраняться в обозримом будущем, и вы не столкнетесь с разрывом в предметной области между обучающими и производственными данными. Вы можете позволить себе роскошь полагаться исключительно на i.i.d. представление. В качестве альтернативы, если нет ложных корреляций и все атрибуты домена демонстрируют удовлетворительные вариации (следовательно, данные действительно репрезентативны), мы можем иметь большую уверенность в i.я бы. тестирование.

Проверка инвариантности

При проектировании инвариантности мы введем критерии для количественной оценки инвариантности. Эта лекция основывается на концепциях предыдущей лекции. Прочтите это для подробного описания различных методов измерения инвариантности.

Нас интересует мера инвариантности производительности нашей системы прогнозирования. Что можно определить как:

 C (f (gx), y) = C (f (x), y), где, 
 g ∈ G 
 x ∈ X 

Здесь:

1. X — вход для нейронной сеть.
2. y — наземная метка истинности
3. G — группа преобразования, подобная двухмерным поворотам изображения
4. f — нейронная сеть, которая преобразует ввод в метку
5. C — функция стоимости, такая как точность средней средней точности

Измерение инвариантности по вмешательству

Самый интуитивный способ измерить инвариантность по отношению к определенному атрибуту предметной области — это измерить инвариантность по вмешательству. Вмешательство относится к тому, чтобы взять под контроль одну из переменных и оставить все остальное без изменений.Мы будем изменять значения атрибута домена случайным образом в тестовом наборе и измерять производительность по набору данных. Это наиболее предпочтительная форма теста на инвариантность, поскольку мы контролируем всю среду и изменяем определенный атрибут, в то время как другие атрибуты фиксированы, эта настройка аналогична рандомизированному контролируемому испытанию. Самый простой способ реализовать вмешательство — это увеличение данных, но это возможно только для атрибутов домена, которые можно изменить на этапе сбора данных после публикации.

Тест инвариантности совокупной производительности

 1.Измерьте точность на тестовом наборе 
 2. Измерьте точность на тестовом наборе со случайными отклонениями в атрибуте домена 
 3. Несоответствие в точности - это стоимость домена этого атрибута, поскольку стоимость домена инвариантности должна быть близка к 0. 

Вмешательство для атрибутов визуальной области такие как цвет, яркость, контраст, насыщенность, размытие и качество изображения могут быть легко разработаны с использованием дополнений данных. Инновационные дополнения данных могут использоваться для вмешательства в такие атрибуты, как погодные условия и тени.

Аналогичным образом, простые в использовании дополнения данных доступны для некоторых атрибутов геометрической области, таких как 2D-трансляции, повороты, масштабирование и кадрирование. Изменения перспективы могут быть зафиксированы только за счет увеличения данных, когда вас интересуют двухмерные плоскости, такие как вывески или номерные знаки. Для 3D-объектов, таких как автомобили, изменение перспективы не может быть реализовано как традиционное увеличение данных.

Слышно, как атрибуты домена, такие как паттерны окклюзии и фон изображения, вмешиваются с помощью дополнений данных.Для них нам, возможно, придется полагаться на стратифицированное тестирование.

Стратифицированное тестирование на инвариантность

Для атрибутов домена, которые мы не можем контролировать посредством увеличения данных, у нас есть еще один доступный вариант для оценки инвариантности. Мы можем выполнить стратифицированное тестирование, которое оценивает, дает ли модель одинаковую производительность в разных группах, где группы отличаются некоторым атрибутом домена. Для этого нам нужна доступность расширенных метаданных, то есть каждое изображение помечено атрибутом домена.

Мы знаем, что нам нужно добиться инвариантности фона для нашей задачи классификации знаков. Выполнив листинг инвариантности во время определения проблемы, мы будем помнить о том, чтобы не удалять какие-либо полезные метаданные. Основным фактором при определении фона является расположение изображения, если оно находится в центре города, мы видим здания и инфраструктуру на заднем плане. В сельской местности мы можем ожидать увидеть зеленые фермы и деревья на заднем плане. Следовательно, если мы можем получить изображения с геотегами, мы можем разработать атрибут домена, который будет указывать на фон.Местоположение — это составной атрибут домена, так как многие атрибуты домена (например, погода и освещение) могут различаться в зависимости от местоположения. Поэтому нам нужно быть осторожными при интерпретации этой инвариантности. Но пока мы знаем, что причинные особенности (символика знаков) остаются неизменными в разных местах, это желаемый тест на инвариантность.

Здесь стоимость домена будет разницей между точностями в разных местах.

 1. Разделите тестовый набор данных на группы на основе атрибута домена a 
 2. Вычислите точность для каждой группы наборов данных 
 3.Измерить дисперсию точности как стоимость домена, поскольку стоимость домена инвариантности должна быть близка к 0. 

Тестирование инвариантности вне распределения (OOD)

Наборы данных OOD — это наборы данных, которые отличаются от обучающих данных распределением атрибутов домена, в то время как причинно-следственные связи остаются прежними. OOD-тестирование отличается от стратифицированного тестирования тем, что мы сохраняем некоторые группы наборов данных только для тестирования. Тестирование на другой выборке из пространства атрибутов предметной области является хорошей мерой причинно-следственной связи.Модель, которая изучает наборы данных из всех мест, может хорошо работать при стратифицированном тестировании, но OOD-тестирование выявит эту проблему.

В приведенном выше примере изображений с геотегами мы могли оставить несколько мест только для тестирования. Если модель, обученная на оставшихся местах обучения, действительно учится инвариантности ко всем атрибутам домена, связанным с местоположением, мы должны получить хорошие результаты и на наборах данных ood.

Несоответствие между производительностью iid и производительностью OOD будет связано с затратами домена на тестирование.

Таким образом, каждая оценка модели приведет к созданию аккуратного модельного контракта, который можно использовать для определения объема модели. Давайте посмотрим на пример контракта для системы классификации знаков:

Оценка IID

Оценка инвариантности вмешательства

Оценка стратифицированной инвариантности

Оценка инвариантности ООД очень важная стратегия оценки

может обеспечить моделирование диагогностики и экономия времени, которое мы тратим на ручной анализ ошибок.Кроме того, следует оптимизировать выбор модели поиска гиперпараметров, параметр оптимизации и другие параметры обучения для получения наилучших показателей оценки. Это гарантирует, что наши знания предметной области о процессе генерации причинных данных станут частью системы, что сделает наши модели более устойчивыми к новым средам.

Это два основных способа обучения моделей с инвариантами предметной области: подход, ориентированный на модель и подход, ориентированный на данные.

Методы, ориентированные на модель

Этот метод ограничивает изученную функцию (нейронную сеть), чтобы она содержала только инвариантные функции посредством архитектурного выбора.Сверточные нейронные сети широко используются, и они изначально инвариантны к трансляции.

Методы, ориентированные на данные

Как обсуждалось выше, существуют две основные проблемы с наборами данных, которые могут препятствовать моделированию инвариантности к обучению.

1. Ложные корреляции
2. Отсутствие вариаций в атрибуте домена

Методы, основанные на данных, пытаются рандомизировать атрибуты домена с целью разорвать ложные корреляции и увеличить дисперсию атрибутов домена.Это два основных способа добиться этого:

1-доменная рандомизация

Доменная рандомизация — это стратегия генерации данных, которая создает данные без ложных корреляций. Как следует из названия, для каждой выборки атрибуты домена выбираются случайным образом из распределения (в основном равномерное распределение). Такой подход возможен только в том случае, если у вас есть точный контроль над проектом генерации данных или выборки.

Подробнее о рандомизации доменов здесь (скоро.)

2- Увеличение данных

Хотя рандомизация домена является ограничительной, потому что это возможно только на этапе сбора данных. Расширение данных — еще один способ достижения этой цели для определенных атрибутов домена. Некоторые атрибуты предметной области, такие как масштаб и цвет, могут быть изменены в данных наблюдений. Добавление случайных возмущений в атрибут предметной области может нарушить корреляцию между атрибутом предметной области и меткой, тем самым побуждая модель полагаться на причинные особенности.

Дополнения данных известны тем, что усиливают обобщение модели машинного обучения, но многие практики не понимают их должным образом. Они причинно определены как способ создания большего количества данных, не подчеркивая их роль в построении инвариантности в модели.

Узнайте больше о дополнениях данных и о том, как выбрать правильные здесь (скоро).

Выше показан общепринятый рабочий процесс для проектов машинного обучения.Если анализ результатов обучения и развертывания может привести к другому этапу сбора данных и обучения модели. Анализ ошибок может показать, что модель работает плохо в более темных и менее освещенных сценариях, и для исправления этой проблемы могут быть собраны данные в аналогичных условиях. Причинно-следственные рассуждения помогают решить значительную часть таких проблем с точки зрения неизменности предметной области. Кроме того, анализ ошибок может выявить только проблемы, которые появляются в наборах данных, к которым у вас есть доступ, в то время как моделирование на основе инвариантности помогает вам учитывать все вероятные изменения в атрибутах домена.Заранее спроектировав основные инварианты, анализ ошибок может выявить более интересные проблемы и граничные случаи. Которые могут им помочь, как показано в конвейере выше.

Раздел 1 — Общая картина

Раздел 1 — Общая картина: Системное функционирование системы консультирования общеобразовательных школ Коннектикута

CCSCF — это программа для всего ребенка (академическая, карьерная и социально-эмоциональная), которая планируется и реализуется в классах K – 12 в сотрудничестве с директорами, учителями и другими заинтересованными сторонами, чтобы добиться максимального успеха в учебе каждого студента Коннектикута.Эти рамки являются важной частью образовательного процесса и соответствуют миссии округа и стратегическому операционному плану. Он руководствуется миссией округа, планом улучшения школы и ежегодными приоритетными целями, которые основываются на потребностях учащихся, определенных данными учащегося, школы и семьи / сообщества. Школьный консультант и школьные группы данных используют несколько точек данных для оценки потребностей учащихся, определения приоритетов и разработки плана действий для удовлетворения выявленных потребностей.

CCSCF является системным и предоставляет ряд основанных на фактах поддержки, программ и практик для удовлетворения потребностей студентов на основе общесистемного подхода, называемого многоуровневой системой поддержки (MTSS). CCSCF обеспечивает равный доступ к услугам для всех студентов. CCSCF использует различные профилактические меры и вмешательства, чтобы помочь студентам преодолеть препятствия на пути обучения; установить прочные связи с возможностями получения образования в школах; и обеспечить, чтобы каждый учащийся учился в безопасной, здоровой и благоприятной среде.Приведенная ниже диаграмма иллюстрирует общую структуру и систему CCSCF.

Системный и оперативный дизайн системы школьного консультирования

Шесть тем

Руководство — Школьные консультанты согласовывают видение и миссию своего отдела с районами. Консультанты используют навыки лидерства для создания, внедрения, мониторинга и оценки системы школьного консультирования. Этот совместный процесс обеспечивает направление, руководство и поддержку, систематически преодолевая внутренние и внешние границы.

Advocacy — Школьные консультанты гарантируют учащимся возможность добиться успеха. Они выступают за справедливое обращение со студентами и за доступ к ресурсам, необходимым для удовлетворения их потребностей. Кроме того, школьные консультанты отстаивают рамки школьного консультирования, а также роли и обязанности школьного консультанта.

Справедливость — Справедливая политика, программы и практика призваны обеспечить равенство в образовательной успеваемости, результатах и ​​результатах за счет устранения препятствий, мешающих прогрессу, и предоставления соответствующих ресурсов для поддержки учащихся.Мера справедливости и возможностей в образовании, равенство заложено в CCSCF, особенно в этических стандартах школьного консультанта.

Сотрудничество — Построение здоровых и этичных внутренних и внешних отношений для поддержки учащихся и создания безопасной школьной среды, которая продвигает видение и миссию CCSCF, успех учащихся и пропаганду. Все вовлеченные стороны работают вместе, чтобы успешно разрабатывать системы, которые являются преднамеренными и отражающими по своей природе, а также развивать культуру обучения и понимания.

Системное изменение — затрагивает всю систему и трансформационное изменение, затрагивающее больше, чем отдельного человека или группу людей, сосредоточенных на динамике окружающей среды, а не на окружающей среде (ASCA, 2019).

Подотчетность — Школьные консультанты реализуют основанные на данных комплексные программы школьного консультирования и стратегии для мониторинга успеваемости учащихся, для непрерывной оценки и улучшения своей школьной программы консультирования и для демонстрации влияния своей программы на учащихся (ASCA, 2012).

Три домена

Школьные консультанты рассматривают темы в трех широких областях: академическое, карьерное и социально-эмоциональное развитие. Эти области способствуют формированию образа мышления и поведения, которые улучшают учебный процесс студентов и создают для всех студентов культуру готовности к колледжу и карьере. Стандарты для учащихся Коннектикута могут распространяться на несколько доменов.

Академическое развитие целей обеспечивают основу для приобретения навыков, умственных способностей и знаний, которые способствуют эффективному обучению в школе; использование стратегий для достижения успеха в школе; и понимание отношения ученых к миру работы, а также к жизни дома и в обществе.

Развитие карьеры целей обеспечивают основу для приобретения навыков, умственных привычек и знаний, которые позволяют учащимся успешно переходить от школы к миру работы и по мере того, как карьера меняется на протяжении всей жизни. Цели и навыки карьерного роста гарантируют, что студенты участвуют в комплексном плане карьерного роста, исследования и подготовительных мероприятий (Приложение C).

Социально-эмоциональное развитие целей обеспечивают основу для социально-эмоционального роста по мере того, как учащиеся учатся в школе и становятся взрослыми.Социально-эмоциональное развитие способствует успеху в учебе и карьере, помогая учащимся понять и уважать себя и других, приобрести эффективные навыки межличностного общения, понять навыки безопасности и выживания и стать полезными членами общества.

Многоуровневая система опор (MTSS) и CCSCF

MTSS — это подход к систематической организации вмешательств, услуг, поддержки и программирования (ASCA, 2018, заявление о позиции, «Многоуровневая система поддержки школьных консультантов»).

Tier 1 обеспечивает универсальную поддержку для всех студентов. Например, в CCSCF поддержка Уровня 1 — это предоставление всем учащимся общеобразовательной школьной программы консультирования. Уровень 2 обеспечивает адресную поддержку студентам, которым необходимы дополнительные вмешательства. Примером может служить работа в небольшой группе для студентов колледжа в первом поколении или группа социально-эмоционального развития. Уровень 3 обеспечивает интенсивную поддержку и представляет собой сеанс один на один между консультантом и студентом или с привлечением сторонних специалистов.Подход представляет собой учитывающую культурные особенности, основанную на фактах структуру, внедренную в школах до 12 лет с использованием решения проблем на основе данных (данные собираются и анализируются для определения эффективности поддержки или вмешательства) для интеграции академического и поведенческого обучения и вмешательства в школе. многоуровневые интенсивности для улучшения обучения и социально-эмоционального функционирования всех учащихся (Sink, 2016). Важно отметить, что MTSS — это система для организации и картирования поддержки и вмешательств, чтобы гарантировать, что вмешательства осуществляются надлежащим образом, исходя из потребностей, отслеживаются на предмет прогресса и корректировок, а также измеряется влияние.

Модель Коннектикута согласована с MTSS

По материалам: Национальная модель ASCA (2019)
© Goodman-Scott, Betters-Bubon & Donohue (2019)
@ SchCouns4MTSS

Уровень 3: Прямые и косвенные услуги, связанные с акциями, для FEW

• Хронические, сложные потребности
• Консультации и сотрудничество
• Честная, справедливая политика и практика доступа и вовлечения
• Подставка по периметру
• Внутренние и общественные рефералы
• Антикризисное управление
• Индивидуальная консультация

Уровень 2: Прямые и косвенные услуги, связанные с акциями, для НЕКОТОРЫХ

• Индивидуальное консультирование / консультирование в малых группах на основе данных / потребностей
• Честная, справедливая политика и практика доступа и вовлечения
• Критический член / руководитель многопрофильных групп
• Оценка и рекомендации
• Поддержка SSP
• Адресная поддержка для подготовки к колледжу и карьере для
  студентов с высокими потребностями и планирование перехода
• Консультируйтесь и сотрудничайте с учителями / персоналом, семьями и
  сообществами, поставщиками бизнеса / промышленности

Уровень 1: Прямое и косвенное предотвращение и раннее вмешательство на основе акционерного капитала для ВСЕХ

• Школьный консультационный класс Учебный план и инструктаж EBP (Academic, Career & SEL)
• Мероприятия и инициативы для больших групп / школ
• Справедливая, беспристрастная политика и практика доступа и вовлечения
  учащихся и семей
• Универсальные оценки и использование данных
• Поддержите планы успеха учащихся (SSP)
• Оценка и рекомендации студентов
• Сотрудничество с персоналом и поддержка
• Партнерские отношения между семьей, обществом, бизнесом и промышленностью

Темы и компоненты CCSCF на разных уровнях

Определить

• Основано на стандартах учащихся, стандартах школьных консультантов, этическом кодексе

Сборка, внедрение, мониторинг

• Построение и внедрение CCSCF с точностью и использованием данных и планирования действий

Доставить

• Прямые и косвенные услуги последовательно
• Равенство и доступ для всех студентов
• Доказательная практика
• В фокусе все домены

Оценка, действие, объявление

• Рамочная оценка и оценка
• Оценка производительности
• Отчетность
• Планирование постоянного улучшения
• Профессиональное обучение

Системный подход к безопасности — Безопасность

Системный подход к безопасности включает широко внедряемые улучшения, основанные на характеристиках дорог с высоким риском, связанных с конкретными типами тяжелых аварий.Такой подход помогает агентствам расширить свои усилия по обеспечению безопасности дорожного движения с небольшими дополнительными затратами. Узнайте, как это сделать (подробнее).

Агентства разрабатывают проекты повышения безопасности дорожного движения, чтобы повысить безопасность за счет минимизации или устранения рисков для пользователей дорог. Вместо того, чтобы управлять рисками в определенных местах, системный подход дает более широкий взгляд и оценивает риск по всей дорожной системе. Системный подход признает, что одних только ДТП не всегда достаточно для определения мер противодействия, особенно на местных и сельских дорогах с низкой интенсивностью движения, где плотность ДТП ниже, и во многих городских районах, где возникают конфликты между транспортными средствами и уязвимыми участниками дорожного движения (пешеходами , велосипедисты и мотоциклисты).

Перейдите по этой ссылке, чтобы просмотреть список потенциальных факторов риска, которые государственное или местное агентство может учитывать при системном подходе к безопасности.

Ряд государств используют системный подход к обеспечению безопасности полетов и достижению результатов. Ознакомьтесь со следующими примечательными практиками и тематическими исследованиями, иллюстрирующими эти приложения.

Иллинойс
Канзас
Кентукки
Луизиана
Миннесота
Миссури
Небраска
Нью-Йорк
Th Нью-Йорк

Получите доступ к полной базе данных заслуживающих внимания практик или отправьте свою практику в базу данных.

NCHRP публикует новый отчет «Количественные подходы к системному анализу безопасности». Для получения дополнительной информации загрузите отчет по адресу http://www.trb.org/NCHRP/ Blurbs / 181589.aspx.

Использование системного подхода к безопасности для снижения смертности при выезде с проезжей части в сельской местности согласно EDC-5
Снижение смертности на сельских дорогах остается серьезной проблемой в Соединенных Штатах. На выезды с проезжей части на сети сельских дорог приходится треть погибших в результате дорожно-транспортных происшествий.Системное применение проверенных мер противодействия выезду с проезжей части, таких как грохочущие полосы, антифрикционные покрытия и чистые зоны, помогает удерживать транспортные средства на своих полосах движения, снижает вероятность аварий и снижает серьезность тех аварий, которые все же происходят.

Обновленный семинар по системному анализу безопасности * Уже доступен *
Семинар по системному анализу безопасности представляет собой четырехчасовой курс под руководством инструктора, который проводит практиков через процесс системного анализа безопасности, представленный в Инструменте выбора проектов системной безопасности.Мастерская доступна для доставки в государственные, местные или племенные агентства по запросу.

Краткое руководство: системный анализ безопасности
В этом руководстве описаны советы и стратегии использования ресурсов, которые уже имеются у вашего агентства для выполнения системного анализа безопасности, как это определено в Инструменте выбора проектов системной безопасности. Сценарий, реализующий каждую задачу, пронизан повсюду, чтобы помочь проиллюстрировать концепции.

Примите меры до возникновения аварии: используйте системный подход к безопасности
Этот флаер описывает, почему системный подход к безопасности является важной частью процесса управления безопасностью.

В публикации Инструмента выбора проектов системной безопасности указано:

• Пошаговый процесс проведения системного планирования безопасности;
• Соображения для определения баланса между точечным и системным повышением безопасности; и
• Аналитические методы для количественной оценки преимуществ программы системной безопасности.

границ | Систематическая оценка неблагоприятного воздействия мозаичного изображения на семантическую сегментацию глубокого обучения

1. Введение

С момента своего возрождения в 2012 году сверточные нейронные сети (CNN) быстро зарекомендовали себя как современный метод компьютерной диагностики в медицинской визуализации и привели к повышению точности в задачах классификации, локализации и сегментации ( Крижевский и др., 2012; Chen et al., 2016; Гринспен и др., 2016). Однако ограничения памяти в картах ускорителей глубокого обучения часто ограничивают обучение на больших 2D и 3D изображениях из-за размера карт активации, удерживаемых для обратного прохода во время градиентного спуска (Chen et al., 2016; Ito et al., 2019) . Для управления этими ограничениями памяти обычно используются два метода: (i) изображения часто подвергаются понижающей дискретизации до более низкого разрешения и / или (ii) изображения разбиваются на более мелкие плитки (Huang et al., 2018; Pinckaers and Litjens, 2018 ). При использовании больших изображений часто применяется мозаика из-за ограничений памяти оборудования (Roth et al., 2018). В частности, в моделях CNN карты активации промежуточных слоев используют в несколько раз больше памяти, чем исходное входное изображение. Эти карты активации могут легко увеличить выделенную память до сотен гигабайт. Полностью сверточные сети естественным образом подходят для методов тайлинга, поскольку их можно обучать на изображениях одного размера и выполнять вывод на изображениях большего размера, разбивая большое изображение на меньшие, перекрывающиеся тайлы (Ronneberger et al., 2015; Çiçek et al. al., 2016; Рот и др., 2018). Чтобы выполнить перекрывающуюся мозаику во время вывода, изменяя N × N (или в случае 3D, N × N × N ) плитки обрезаются из всего изображения с равномерно распределенными смещениями вдоль изображения. Габаритные размеры.

Тайлинг вводит дополнительные гиперпараметры модели, а именно размер тайла, величину перекрытия и процесс агрегации (например, усреднение / округление тайла), которые необходимо настроить для получения более точных прогнозов. Например, Roth et al.выполнила сегментацию органов брюшной полости на КТ-изображениях 512 × 512 с от 460 до 1177 срезов, используя входные плитки размером 132 × 132 × 116, чтобы получить выходные прогнозные плитки 44 × 44 × 28 в каскадной 3D U-Net (Roth et al. , 2018). На втором этапе предсказания вероятности для предсказаний перекрывающихся тайлов были усреднены для получения лучшего результата Dice Coefficient. Цзэн и Чжэн (2018) представили «свертку целостной декомпозиции», которая при добавлении к обычной 3D U-Net значительно уменьшала размер входных данных, сохраняя при этом полезную информацию для семантической сегментации.Они сравнили эффекты обрезки плиток 50 × 50 × 40, 96 × 96 × 96 и 200 × 200 × 40 из MR 480 × 480 × 160 и определили, что у них лучший коэффициент Dice , расстояние Хаусдорфа и средняя поверхность. Расстояние при использовании самого большого размера плитки, который может уместиться в памяти. Isensee et al. (2019) использовали скользящее окно с перекрытием половинной плитки и увеличение данных во время тестирования, которое отображало плитку по всем осям. Они также отдавали предпочтение большему размеру плитки большому размеру пакета, чтобы «максимизировать объем пространственного контекста, который может быть захвачен.”Ghosh et al. (2018) обнаружили, что при повороте или переворачивании входной плитки прогноз немного отличался для той же плитки. Усредняя эти небольшие вариации мозаичных прогнозов, Гош произвел улучшенные прогнозы структур на спутниковых изображениях из расширенной топологии U-Net. Хуанг и др. определили, что свертки с нулевым заполнением и чередующиеся свертки (т., 2018).

В предыдущих работах, подобных этой, методы листов называются «необходимыми из-за ограничений памяти», а не методами «повышения точности алгоритмов» (Chen et al., 2016; Roth et al., 2018; Isensee et al., 2019; Ито и др., 2019). Другими словами, метод тайлинга скорее компенсирует нехватку памяти, чем увеличивает предсказательную силу. Если бы для обучения и вывода этих моделей было доступно больше памяти, то использование тайлинговых методов было бы ненужным или даже нежелательным.Например, Камницас и др. (2017) создали первую современную трехмерную топологию для прогнозирования опухолей головного мозга, найдя плитки «сегментов изображения», которые «больше отдельных участков [плиток], но достаточно малы, чтобы уместиться в памяти». Roth et al. (2018) отметили: «с ростом объема… памяти, перекрывающиеся предсказания субобъемов… будут сокращены, поскольку появится возможность изменять форму сети, чтобы принимать произвольные размеры входного 3D-изображения».

В этом исследовании мы сосредотачиваемся на подходе мозаики — как во время обучения модели, так и во время вывода модели — и его влиянии на прогнозирование модели.Мы реализовали топологии U-Net как для 2D (Ronneberger et al., 2015), так и для 3D (içek et al., 2016) данных, и мы сомневаемся, что этот подход мозаичного изображения действительно так же точен, как простое выполнение логического вывода для всего изображения. В предыдущем отчете (Reina and Panchumarthy, 2018) мы заметили, что использование всего 2D-изображения дает лучшие прогнозы, чем мозаичный подход для 2D-модели U-Net, обученной обнаруживать глиальные опухоли с помощью магнитно-резонансной томографии головного мозга (МРТ). В этом исследовании мы расширяем эти результаты, систематически (i) оценивая результирующие эффекты как в медицинских, так и в немедицинских данных, (ii) сравнивая как 2D-, так и 3D-модели U-Net, и (iii) предполагая, что эти различия вызваны: операции в модели CNN, которые изменяются из-за переводов во входных данных модели.Наконец, мы показываем, что эти проблемы могут быть частично решены путем увеличения размера плитки — вплоть до обучения и вывода всего изображения.

2. Методы

2.1. Данные

2.1.1. Сегментация опухоли головного мозга (BraTS)

Медицинские данные, использованные для наших оценок, отражают общедоступный набор тренировочных данных по программе International Brain Tumor Segmentation (BraTS) Challenge 2019 (рисунок 1) (Menze et al., 2014; Bakas et al., 2017a, b, c; Bakas и другие., 2018). BraTS создала общедоступный набор данных для нескольких учреждений для сравнительного анализа и количественной оценки производительности алгоритмов компьютерной сегментации опухолей головного мозга по данным МРТ. Эти снимки были получены с помощью МРТ-сканеров 1T, 1,5T или 3T, и все метки достоверности были вручную утверждены экспертами, сертифицированными нейрорадиологами. Набор данных, который мы использовали здесь, включает предоперационные многопараметрические МРТ-снимки 335 пациентов с диагнозом глиома. Точные методы сканирования mpMRI, включенные в описание, описывают сканирование с естественным T1-взвешенным (T1), пост-контрастным T1-взвешенным (T1Gd), T2-взвешенным и T2-жидкостным восстановлением с инверсией (FLAIR).Мы случайным образом разделили этот набор данных на 270 обучающих, 30 проверочных и 35 тестовых сканирований.

Рисунок 1 . Пример трехмерного входного многопараметрического сканирования магнитно-резонансной томографии из задачи Международной сегментации опухолей головного мозга (BraTS). Слева направо проиллюстрированы все четыре входных режима, включая исходный T1-взвешенный (T1), T1 пост-контрастный (T1Gd), собственный T2-взвешенный (T2) и T2-жидкостное ослабленное инверсионное восстановление (T2-FLAIR), за которым следует экспертная аннотация по всем трем подобластям опухоли, представленная как часть набора данных BraTS.Сверху вниз показаны три вида (т. Е. Аксиальный, коронарный, сагиттальный) этих трехмерных объемов, чтобы продемонстрировать трехмерный характер этих сканирований.

Хотя данные BraTS описывают 3D-сканирование МРТ, здесь мы рассматриваем 155 2D-срезов из каждого сканирования как независимое изображение для обучения 2D-модели. Однако все 2D-срезы из одного сканирования пациента содержались только в одном из трех разделов набора данных (обучение / проверка / тестирование), чтобы предотвратить любую потенциальную утечку данных для изучения коллинеарностей данных.В частности, было 41 850, 4650 и 5425 пар двухмерных изображений / масок, соответствующих 270, 30 и 35 трехмерным МРТ-сканам, в наборах для обучения, проверки и тестирования, соответственно. Все 2D-изображения были оценены по оси Z по оси канала на основе предварительно вычисленных средних значений и стандартных отклонений 3D-МРТ-сканирования. Исходные 2D-срезы имели размер 240 × 240 пикселей (то есть все изображение).

2.1.2. Спутниковые изображения SpaceNet Vegas

Немедицинские данные получены из общедоступного набора данных спутниковых снимков SpaceNet (рисунок 2) (SPA, 2018; Weir et al., 2019). В частности, мы использовали подмножество данных Вегаса (SN-Vegas). Он состоит из 3 851 снимка с пространственным разрешением 30 см, панорамированного спутникового снимка RGB над городом Лас-Вегас, штат Невада (США), а также аннотаций широты и долготы для 108 942 полигонов контуров зданий в пределах города. Мы исключаем официальный набор данных испытаний соревнований из этого исследования, потому что он не содержит общедоступных аннотаций достоверных данных. Изображения были получены спутниками WorldView-2 и 3 и отфильтрованы, чтобы исключить изображения с чрезмерной облачностью, а также с экстремальными углами захвата.Этикетки были профессионально созданы поставщиком этикеток для геопространственных данных Radiant Solutions.

Рисунок 2 . Пример изображений SpaceNet-Vegas, использованных в этом исследовании. Аннотации наземных истин для зданий и других сооружений были профессионально промаркированы.

Набор данных SpaceNet-Vegas был разделен на 70% обучение (2695 изображений), 20% проверку (770 изображений) и 10% тестирование (386 изображений), что соответствует 77 099 тренировкам, 21 505 проверкам и 10 338 тестам строительных полигонов.Все входные данные были оценены по оси Z по оси канала на основе предварительно вычисленных средних значений и стандартных отклонений. Все входные данные для обучения также подвергались случайным горизонтальным и вертикальным переворотам и поворотам от 0 до 360 °.

2.2. Топология U-Net

U-Net — это полностью сверточная сеть, основанная на архитектуре кодер-декодер (рисунок 3). Контрактный путь захватывает контекст, а расширяющийся путь обеспечивает локализацию. В отличие от стандартного кодера-декодера, каждая карта характеристик в расширяющемся пути объединяется с соответствующей картой характеристик из сокращающегося пути, дополняя нисходящие карты характеристик пространственной информацией, полученной с использованием меньших принимающих полей.Интуитивно это позволяет сети рассматривать объекты в различных пространственных масштабах. По своей конструкции U-Net не зависит от размера изображения, и его обучение и логический вывод могут выполняться на изображениях разного размера.

Рисунок 3 . Топология BraTS 2D U-Net. Топологии SpaceNet 2D U-Net и BraTS 3D U-Net имеют схожую архитектуру.

2.3. 2D U-Net для медицинских данных (BraTS)

Мы адаптировали 2D-модель U-Net для обучения на данных BraTS и специально использовали четыре метода МРТ в качестве входных и выходных данных маски эквивалентного размера, предсказывающей всю опухоль, появляющуюся в 2D-срезе.

2.3.1. Архитектурные изменения

Чтобы обеспечить более широкую воспроизводимость наших результатов, мы специально модифицировали первоначально опубликованную топологию 2D U-Net, сократив количество карт признаков вдвое (с 64 в первом сверточном слое до 32) и добавив выпадающие (0,2) просто перед 3-м и 4-м максимальными слоями объединения. Мы также использовали нулевое заполнение во всех сверточных слоях, чтобы сохранить размеры изображения и устранить необходимость обрезать изображение для объединения.Сокращение первоначально предложенных схем функций произошло в пользу того, что наши результаты были воспроизведены другими без необходимости использования экстремального оборудования.

2.3.2. Учебный процесс

Мы реализовали модель, используемую здесь, в Keras 2.2.4 и TensorFlow 1.11, и сделали полный исходный код общедоступным. Стохастический градиентный спуск с оптимизатором Adam (скорость обучения = 1e-4) использовался для минимизации функции потерь −log ( Dice ), где Dice определяется как в уравнении 1 на странице 6.Во время обучения использовался размер партии 128. Мы создали пакетный генератор, который случайным образом выбирал обрезанные изображения / маски из обучающего набора для каждого пакета.

2D-модель обучалась за 40 эпох. Во время обучения из нормализованных 2D-изображений и их соответствующих наземных масок была взята случайная обрезка 128 × 128 пикселей. Рандомизированное переворачивание (вверх / вниз и влево / вправо) и поворот на 90 градусов изображений обучающей выборки также использовались во время онлайн-увеличения данных. Dice на центральном кадре 128 × 128 набора данных проверки вычислялся после каждой эпохи.Модель, которая произвела наивысшее значение Dice на центральном кадре 128 × 128 проверочных данных, считалась наиболее обученной моделью.

Для предварительной обработки изображений для каждого изображения изображения были обрезаны до 98 процентилей от их значений, а стандартизация применялась только к ненулевым пикселям, что сделало фон согласованным для всех изображений. Это создавало постоянный эффект нормализации изображений.

2.3.3. Эксперименты с нулевым заполнением

Мы провели дополнительные эксперименты, чтобы определить влияние нулевого заполнения на мозаичный подход.Это основано на выводах Huang et al. (2018), которые предположили, что нулевое заполнение, используемое в топологиях CNN, вызывает изменчивость прогнозов на границе плитки. Чтобы оценить это, мы также создали и обучили дополнительную 2D-модель U-Net, которая не включала заполнение нулями ни для одного из сверточных слоев. Мы назвали эту модель «BraTS без подкладки».

Модель «BraTS без прокладки» обучалась так же, как и первая 2D-модель U-Net, но со следующими изменениями. Эта модель «без подкладки BraTS» взяла в качестве входных данных случайный урожай 236 × 236 и выдала прогноз 52 × 52.Уменьшение выходного размера было связано с прогрессирующей потерей граничных пикселей после каждого сверточного слоя без дополнений (Ronneberger et al., 2015). Размер ввода был выбран немного меньше, чем весь срез 240 × 240, чтобы мы могли оценить, изменилось ли предсказание с небольшими переводами ввода. Прогноз модели сравнивался с аналогично обрезанной версией наземной маски истинности. Он был обучен в течение 40 эпох, и модель, которая дала наивысшие Dice на данных проверки, считалась лучшей обученной моделью.

2.3.4. Вывод на 2D-плитку (подход мозаики)

Вывод был выполнен индивидуально для пяти плиток размером 128 × 128 пикселей, извлеченных из четырех углов и центра среза (рис. 4A). Мы выполнили логический вывод для всего 2D-среза, используя модель, а затем сложили 155 срезов для каждого сканирования, чтобы сгенерировать прогнозируемую маску 3D-сегментации для всего сканирования.

Рисунок 4 . Схема процесса укладки плитки. (A) В двухмерной модели пять плиток (4 угла, 1 центр) усредняются для получения предсказания всего изображения.3-й рисунок во 2-м ряду показывает интенсивность перекрытия плитки. Примечательно, что прогнозы плитки либо (i) сначала округляются, а затем усредняются вместе, либо (ii) сначала усредняются вместе, а затем округляются. (B) Пример для 3D-модели BraTS, где алгоритм мозаики аналогичен 2D, но на этот раз использует девять плиток (8 углов и 1 центр).

Мы использовали и сравнили два подхода к мозаичному агрегированию. Первый подход, округление после усреднения , описан Roth et al.(2018). В нашем случае прогнозы по этим пяти тайлам 128 × 128 сначала были усреднены, а затем округлены до 0 или 1 (порог: 0,5). Мы сравнили округление после усреднения подхода с округлением перед усреднением подхода : пять плиток 128 × 128 были округлены до 0 или 1 (порог: 0,5), а затем усреднены, чтобы обеспечить прогнозирование всего изображения (округление перед усреднением ). Затем последовательные прогнозы для каждого сканирования пациента складывались вместе, чтобы сравнить двухмерные прогнозы с прогнозами 3D-модели BraTS.

2.3.5. Вывод для всего 2D-среза

Для полностью сверточных топологий модель TensorFlow может быть создана с заданной во время выполнения высотой и шириной, указав входные размеры как [ Высота, Ширина, каналы ] = [ Нет, Нет , 4], где Нет описывает параметр, определенный во время выполнения.

Определив и обучив модель таким образом, мы можем передать в модель изображение практически любого размера и выполнить логический вывод.Единственное ограничение размера входного изображения состоит в том, что размер должен делиться на 2 ⁴ , чтобы выровняться с 4 уровнями максимального пула модели U-Net и правильно объединить пропускаемые соединения.

2.4. 3D U-Net для медицинских данных (BraTS)

Для создания 3D-модели U-Net мы использовали то же количество сверточных слоев и слоев с максимальным объединением, что и в 2D-модели U-Net (рис. 3). Мы изменили реализацию первоначально предложенной 3D-модели U-Net (içek et al., 2016), заменив слой ReLU на активацию дырявого ReLU и добавив нормализацию экземпляра после каждого дырявого ReLU (Xu et al., 2015; Ульянов и др., 2016).

Мы дополнительно модифицировали эту реализацию, используя начальную скорость обучения 0,01. Коэффициент снижения скорости обучения 0,5 применялся, когда значение потери проверки не входило в пять лучших предыдущих потерь (то есть check_best = 5). Обучение прекращалось, когда потеря валидации не улучшилась за последние 20 эпох (то есть терпение = 20).Наконец, веса, которые дали наименьшие потери при проверке, были использованы для окончательной модели.

Модель 3D BraTS обучена для 100 эпох на 9 плитках, 128 × 128 × 128 вокселей, обрезанных по 8 углам и центру изображения 3D МРТ (рис. 4B).

Вывод через мозаичный подход также был выполнен аналогично случаю 2D U-Net (раздел 2.3.4), но использовались тайлы 128 × 128 × 128 из восьми углов и центра всего изображения (рис. 4B). Эти девять тайлов 128 × 128 × 128 были усреднены, чтобы обеспечить предсказание всей маски.

Вывод всего изображения также был выполнен аналогично 2D U-Net (раздел 2.3.5), но с использованием всего сканирования 240 × 240 × 155.

2,5. 2D U-Net по спутниковым данным (SpaceNet-Vegas)

Модель SpaceNet использует в качестве входных данных одно спутниковое изображение из SpaceNet-Vegas и выводит маску аналогичного размера, предсказывающую следы строений.

2.5.1. Архитектурные изменения

Первоначально опубликованная топология была изменена путем введения пакетной нормализации выходных данных сверточного слоя до активации для целей регуляризации.

2.5.2. Учебный процесс

Все модели были обучены в течение 300 эпох с использованием оптимизатора Adam со скоростью обучения 5e-4 для оптимизации потерь двоичной кросс-энтропии. Чтобы проверить нашу гипотезу о том, что модель, обученная на всем изображении, превосходит подход, основанный на тайлинге, мы выполнили здесь два процесса обучения; на основе (а) тайлинга и (б) понижающей дискретизации.

Для моделей, обученных с помощью мозаичного обучения, сохраняется исходное разрешение входного изображения 650 × 650 и выбирается случайная обрезка желаемого размера.Для каждого из следующих случайных размеров листов были обучены разные модели:

— 128 × 128

— 256 × 256

— 384 × 384

— 496 × 496

Из-за архитектуры U-Net входные размеры модели должны делиться на 2 ⁵ , чтобы соответствовать 5 уровням максимального пула. Следовательно, для моделей, обученных на всем изображении с помощью понижающей дискретизации, исходное изображение было понижено с помощью сглаживания и билинейной интерполяции до 512 × 512 и 640 × 640.

2.5.3. Эксперименты с нулевым заполнением

Как и в случае с экспериментами BraTS, мы создали дополнительные эксперименты SpaceNet, чтобы определить влияние нулевого заполнения на мозаичный подход. Мы также создали и обучили дополнительные модели SpaceNet, которые не включали заполнение нулями ни для одного из сверточных слоев (а именно модели SpaceNet без прокладки).

2.5.4. Вывод на 2D-плитку

Вывод был выполнен с использованием плиток того же размера, который использовался при обучении модели, с 50% перекрытием между плитками как по вертикали, так и по горизонтали.Перекрывающиеся плитки были усреднены, чтобы обеспечить предсказание всего изображения.

2,6. Оценочная метрика

2.6.1. … Для медицинских данных

В соответствии с показателем, использованным в тесте BraTS, здесь был использован коэффициент сходства игральных костей ( Dice ) для измерения качества прогнозов опухоли. Dice определяется как:

, где TP, FP, TN, FN — количество истинно положительных, ложноположительных, истинно отрицательных и ложно отрицательных пикселей.

2.6.2. … Для спутниковых данных

Чтобы измерить производительность относительно установленных тестов SpaceNet, мы использовали метрику постобработки Polygon F 1, показанную на рисунке 5; а именно, прогнозируемая маска сегментации полигонизируется на основе связности пикселей с одинаковым значением для создания набора предлагаемых многоугольников в пространстве широты и долготы. Затем мы вычисляем пространственное пересечение по объединению (т. Е. Индекс Жаккара) между предлагаемым и наземным многоугольниками истинности.Истинно положительный результат считается положительным, если значение Жаккара выше 0,5. После того, как мы установили количество TP, FP и FN, мы вычисляем Dice (также известный как SpaceNet (многоугольный) F 1 Score) — среднее гармоническое между точностью и отзывом — по этим совпадающим многоугольникам и сравниваем этот показатель с Dice , рассчитанный на попиксельной основе (Hagerty, 2016).

Рисунок 5 . Метрика SpaceNet F 1: список предложений генерируется алгоритмом обнаружения и сравнивается с реальной информацией в списке меток.

3. Результаты

3.1. 2D BraTS Модель

Лучшая обученная 2D-модель BraTS дала среднее значение Dice , равное 0,8877, при выводе на одном центральном тайле 128 × 128 срезов тестового набора данных. Кроме того, как объясняется в методах, хотя эта модель была обучена на случайных тайлах 128 × 128, мы смогли выполнить логический вывод для всего среза 2D-изображения 240 × 240. Прогнозы всего 2D-среза привели к среднему значению Dice на 0,8743 для всего 3D-объема.Использование модели 2D BraTS с пятью плитками 128 × 128 привело к среднему значению Dice , равному 0,8599 для метода агрегации мозаичного изображения с округлением после усреднения . Использование округления перед усреднением метода агрегации листов дало 0,8998 среднего Dice (таблица 1).

Таблица 1 . Результаты 2D U-Net по медицинским данным (BraTS).

В совокупности в наборе данных тестирования применение различных подходов к агрегации листов (т.е., округление после усреднения и округление перед усреднением ) показали, что когда мы агрегировали предсказанные сегменты на округления после усреднения , 2D-сегментации отдельных субъектов уступали сегментам, полученным из 3D-модели. Напротив, оценка метода мозаичной агрегации, где применялось округление перед усреднением , показала, что в среднем большее количество 2D-прогнозов было ближе к истине, чем при использовании 3D-модели (рис. 6).

Рисунок 6 . Попарное сравнение Dice различий между предсказанием всего изображения 240 × 240 и тайлов 128 × 128. Ноль означает, что оба метода дали равные Dice баллов за одно и то же сканирование. (вверху) Прогноз был сделан путем сначала усреднения 5 плиток, а затем округления окончательного прогноза до 0 или 1. (снизу) Прогноз был сделан путем сначала округления мозаичных прогнозов до 0 или 1, а затем усреднения прогнозов.

3.2. 3D BraTS Модель

Результаты 3D-модели U-Net BraTS показали другое поведение по сравнению с результатами 2D-модели U-Net. В частности, не наблюдалось никаких значительных различий, когда прогнозы модели, выведенные на основе всего 3D-МРТ-сканирования, сравнивались с прогнозами любого из подходов к мозаичной агрегации. Вывод 3D-модели BraTS для всего 3D-сканирования привел к тому, что среднее значение Dice составило 0,8974, тогда как для метода разбиения на фрагменты: округление после усреднения и округление до усреднения среднее значение Dice было равно 0.8991 и 0,8984 соответственно (таблица 2).

Таблица 2 . Результаты 3D U-Net по медицинским данным (BraTS).

3.3. 2D SpaceNet-Vegas

Что касается набора данных спутникового изображения, мы отмечаем, что более высокая точность была получена путем обучения на плитке большего размера (т. Е. Большем контексте изображения). Модель, обученная на случайных плитках размером 128 × 128 и выведенная для всего изображения 650 × 650 со скользящими плитками 128 × 128, привела к результату Dice , равному 0,791, тогда как модель, обученная на всем 2D-изображении, изменила размер до 640 × 640 и Выведенный для всего изображения размером 650 × 650 дал результат Dice , равный 0.917. Чтобы обучить все изображение, мы интерполировали изображение до 640 × 640, поскольку топология U-Net требует, чтобы входное изображение было кратным 2 ⁵ для выравнивания с 5 слоями максимального пула. Таблицы 3, 4 показывают, что показатели оценки Dice и SpaceNet F 1 (по многоугольникам и вычисленные по всему набору данных, а не по изображению) улучшаются по мере увеличения размера обучающей плитки.

Таблица 3 . Результаты 2D U-Net с заполнением нулями немедицинских данных (SpaceNet Vegas).

Таблица 4 . Результаты 2D U-Net без дополнения нулями немедицинских данных (SpaceNet Vegas).

4. Обсуждение

Наши результаты указывают на существенные различия в архитектуре 2D U-Net как для медицинских, так и немедицинских (т.е. спутниковых) данных. В частности, оценка Dice показывает превосходство при выводе нашей модели для всего 2D-изображения по сравнению с выводом для меньших фрагментов изображения, что подтверждает нашу гипотезу для больших размеров фрагментов.Более того, постепенное увеличение размеров плитки показывает постепенное улучшение производительности. После оценки нашей 3D-модели U-Net мы отмечаем, что производительность на трехмерных данных не показала существенной разницы при сравнении вывода для всего трехмерного изображения и вывода на трехмерных плитках. Мы предполагаем, что это происходит из-за включения большого контекста изображения (например, большего количества соседних вокселей) в третьем измерении.

Подход перекрывающихся листов обычно используется исследователями для применения полностью сверточных моделей к большим 2D и 3D изображениям, которые обычно не помещаются в доступную память (Chen et al., 2016; Рот и др., 2018). Isensee et al. (2019), например, специально разработали свою топологию, чтобы «автоматически устанавливать размер пакета, размер плитки и количество операций объединения для каждой оси, сохраняя при этом потребление памяти в пределах определенного бюджета». Мы предлагаем исследователям разрабатывать свои топологии так, чтобы они не вписывались в аппаратные ограничения, а вместо этого создавали максимально точную модель.

Мы обнаружили, что отклонение в прогнозе можно увидеть в линейном преобразовании (переворачивание) и аффинном преобразовании (переводе) (рисунки 8, 9).Большинство нейронных сетей включают в себя некоторый компонент, который делает его трансляционно-вариантным, например, слой объединения или неунарный сверточный шаг. Другими словами, все изображение не обязательно является суммой отдельных фрагментов. На рисунке 7 мы демонстрируем этот эффект из-за слоя max-pooling 2 × 2. И сверху, и снизу используются одинаковые массивы 11 × 2. Если для максимального объединения используется тайл 10 × 2, то есть только два возможных тайла. Обратите внимание, что каждая плитка дает разные результаты. Мы также обнаружили, что это поведение, вызванное объединяющими слоями, наиболее заметно влияет на резкие изменения интенсивности на границах объекта.Мы полагаем, что многие из наших результатов по «каплевидным» границам, которые более чувствительны даже к незначительным аффинным преобразованиям тайлов, являются результатом этих трансляционно-вариантных операций, особенно операции максимального объединения.

Рисунок 7 . Трансляционно-вариантный характер слоя MaxPooling: обратите внимание, как результат MaxPooling значительно отличается при переводе одного пикселя в окно 10 × 2 между верхним и нижним входами, даже если они содержат одинаковые значения (средние строки).Последовательные слои MaxPooling (или любая не унарная последовательная свертка) усугубляют эффект, поскольку они эффективно увеличивают размер окна воспринимающего поля. Следовательно, модель с тремя слоями MaxPooling 2 × 2 будет показывать трансляционную дисперсию для смещений до 2 ³ = 8 пикселей.

Хотя эти различия в прогнозировании часто локализуются на границе сегментации, границы опухоли или строений часто являются наиболее важными для задачи. Обеспечение адекватных границ опухоли имеет решающее значение для успешного терапевтического планирования и лечения, особенно при медицинской визуализации.

4.1. Медицинские данные (BraTS)

Если модели были линейными, то любое линейное преобразование входных данных модели должно приводить к такому же прогнозу (с таким же линейным преобразованием). На рисунке 8 показано, что при сканировании BRATS19_CBICA_BBG_1.nii.gz он достигает Dice 0,9100 на центральном тайле 128 × 128 среза 94. Однако, если вход MRI просто перевернуть по вертикали, прогноз изменится. В этом случае Dice показывает, что модель обеспечивает худший прогноз с перевернутым входом ( Dice = 0.8480). Путем обращения линейного преобразования (т. Е. Отмены переворота предсказания) два предсказания модели можно сравнивать напрямую, чтобы показать, что они действительно различны (перекрестное предсказание Dice = 0,9139). Хотя два прогноза очень похожи, нижний ряд рисунка 8 подчеркивает различия, возникающие вдоль границ опухоли. Мы обнаруживаем, что границы опухоли находятся там, где предсказания расходятся.

Рисунок 8 . Демонстрация изменчивости 2D-модели BraTS. (вверху) Прогноз на основе нормальной ориентации входа МРТ. (в центре) Прогноз на основе вертикального переворота входного сигнала МРТ. (Внизу) Сравнение прогнозов нормального и перевернутого входных данных. Прогноз перевернутого ввода был перевернут, чтобы позволить прямое сравнение с предсказанием нормальной ориентации. На нижнем правом рисунке серые пиксели указывают на отсутствие разницы, черные пиксели находятся в перевернутом предсказании, но отсутствуют в нормальном предсказании, а белые пиксели находятся в нормальном предсказании, но отсутствуют в перевернутом предсказании.

На рисунке 9 показана трансляционная дисперсия модели. В центре показано предсказание модели на кадре МРТ 128 × 128. Как показывает сетка на рисунке, каждая плитка показывает разницу между пикселями, которые перекрываются между прогнозами центральной обрезки и обрезки, сдвинутой на ± 1 или 2 пикселя в каждом измерении от центральной обрезки. Игра Dice подтверждает, что совпадающие прогнозы, хотя и схожи, значительно отличаются вдоль границы опухоли.Такая картина различий по границе сегментации была типичной для результатов. Обратите внимание, что переводы (+2, +2) и (−2, −2) кратны максимальному шагу объединения и должны быть менее чувствительны к переводу (см. Huang et al., 2018).

Рисунок 9 . Демонстрация трансляционной дисперсии 2D-модели BraTS. В центре показано предсказание модели на кадре МРТ 128 × 128. Обратите внимание, что вся опухоль помещается в эту плитку. Окружающие подзаголовки показывают разницу в прогнозе, поскольку входная обрезка МРТ смещена на один или два пикселя в любом измерении среза.Различия между предсказаниями в перекрывающихся пикселях показывают, что даже самый маленький перевод во входных данных может создать разницу в выходных. Серые пиксели указывают на отсутствие разницы в прогнозах перекрывающихся пикселей между центральной обрезкой и смещенной обрезкой, черные пиксели находятся в прогнозе смещенной обрезки, но не присутствуют в прогнозе центральной обрезки, а белые пиксели находятся в центральной обрезке предсказания, но не присутствуют в предсказании офсетной культуры.

На рис. 10 показана трансляционная дисперсия модели «без подкладки BraTS».В этом случае модель обучалась без заполнения нулями в сверточных слоях, чтобы мы могли оценить влияние заполнения нулями на результат прогнозирования. На рисунке «Центральная обрезка» относится к центральной обрезке 236 × 236 среза 240 × 240, а «Прогнозный перевод справа» относится к обрезке, которая была перенесена на один пиксель вправо от центральной обрезки. Когда мы сравниваем перекрывающиеся области прогноза, мы обнаруживаем несколько областей, в которых прогноз опухоли изменился (красные и зеленые кружки).Это демонстрирует, что трансляционная инвариантность из-за мозаики не может быть уменьшена простым изменением топологии, чтобы использовать только допустимые пиксели в сверточных слоях.

Рисунок 10 . В этой модели «без прокладки BraTS» по-прежнему существует трансляционная дисперсия, несмотря на то, что модель не содержит нулевого заполнения в сверточных слоях. «Обрезка центра прогнозирования» относится к прогнозированию при использовании центральной обрезки 236 × 236 входного среза. «Прогнозный перевод справа» относится к аналогичному кадру, но с переводом на один пиксель вправо от центра.Зеленым и красным кружками выделены прогнозы, которые изменились из-за преобразования на один пиксель. На рисунке справа показана разница в перекрывающихся областях между прогнозами «Обрезка по центру» и «Перевести вправо». Серый цвет означает отсутствие разницы. Белый цвет указывает на прогноз в «Обрезке по центру», которого не было в «Право перевода». Черный цвет указывает на прогноз в «Правильном переводе», которого не было в «Центре кадрирования».

Применение различных подходов к агрегированию листов (т.е., округление после усреднения и округление до усреднения ) выявили непредсказуемые и противоречивые результаты. Это вводит новый параметр для стандартизации результатов. Пользователь должен знать об этом несоответствии и сделать соответствующий вывод, экспериментируя с различными методами агрегирования листов. Кроме того, результаты вывода модели 3D U-Net демонстрируют, что больший контекст изображения (3D по сравнению с 2D) влияет на производительность, но также и то, что после включения достаточного контекста изображения (т.д., при предоставлении достаточного контекста) модель сходится, и дальнейших улучшений не наблюдается.

Два разных подхода к агрегированию листов дали разные результаты в 2D и 3D моделях. Для 2D-модели округление после подхода с усреднением дало существенно более низкую метрику Dice , чем округление до подхода к усреднению . В 3D-модели округление после подхода усреднения дало незначительно более высокую метрику Dice , чем округление перед усреднением .

4.2. Немедицинские данные (SpaceNet-Vegas)

Мы обнаружили, что все изображение последовательно превосходит подходы на основе мозаичного изображения по сравнению с пиксельным Dice , которые сходятся к аналогичным значениям, когда размер плитки достигает примерно половины исходной высоты и ширины изображения (Таблица 3). Точно так же полигональный Dice (метрика SpaceNet F 1) также улучшается, поскольку обучающие плитки покрывают большую часть всего изображения. Проверка прогнозируемых масок выявляет вероятного виновника: на рисунке 11 показаны наземная маска истинности и изображение вверху, за которыми следуют строки, показывающие прогнозы скользящего окна с тайлами 128 × 128 и 256 × 256, причем последняя строка представляет собой прогнозы от обученной модели. на входах с измененным размером 640 × 640.

Рисунок 11 . (1-й ряд) Правдивость и изображение в целом. (2 ряд) 128х128 плиток. (3-й ряд) 256х256 плиток. (4-я строка) 640 × 640 всего изображения.

Мы отмечаем, что прогнозы на основе моделей, использующих меньшие размеры плиток, производят сегментации, которые не позволяют уловить мелкозернистые границы между зданиями, что приводит к «более размытым» или более аморфным прогнозам. Обратите внимание, что мозаичные прогнозы сегментируют здания в каждом тупике как одну сплошную массу; однако на каждый тупик приходится примерно 6 домов.Эти отсутствующие границы приводят к тому, что на этапе постобработки полигонизации создается уменьшенное количество полигонов, поскольку несколько зданий извлекаются как одно. Мы отмечаем, что по мере увеличения размера плитки до достижения по крайней мере 12H × 12W, неблагоприятные эффекты полигонизации уменьшаются, и прогнозы на границе сегментов становятся более точными (Таблица 3).

Удаление нулевого заполнения в топологии оказывает незначительное влияние на средний коэффициент Dice для каждого изображения.Однако показатель F 1 Metric на 1–3% ниже для всех вариантов входного размера (таблица 4). Поскольку удаление нулевого заполнения уменьшает выходной размер модели, то, что мы видим, является эффектом, аналогичным обсуждаемым эффектам использования меньших фрагментов, а не всего изображения во время обучения. Поскольку метрика F 1 вычисляется по всем извлеченным полигонам, то есть по заданным парам широта / долгота, определяющим площадь здания, мы снова теряем точность на краях зданий, что снизило оценку SpaceNet F 1 .Это не влияет на результат Dice , так как Dice не чувствителен к разделению экземпляров объекта. Другими словами, гигантский пиксельный объект, покрывающий два здания, дает хорошие пиксельные значения Dice , но плохие значения полигона SpaceNet F 1.

5. Выводы

В этом исследовании мы систематически оценивали эффекты использования мозаичных подходов по сравнению с использованием всего изображения для семантической сегментации глубокого обучения как в 2D, так и в 3D конфигурациях.Путем количественной оценки мы продемонстрировали, что более крупные размеры плитки (т. Е. Контекста) дают более согласованные результаты и смягчают нежелательное и непредсказуемое поведение во время вывода. Мы понимаем, что методы тайлинга могут по-прежнему быть необходимыми, поскольку исследователи используют изображения все большего размера и разрешения в своих моделях сверточных нейронных сетей. Наша цель в этом исследовании — повысить осведомленность о проблемах, связанных с укладкой плитки. А именно:

1. Гиперпараметры мозаичного изображения, которые включают размер плитки, смещение, ориентацию и перекрытие, могут вызывать большие отклонения в прогнозе, особенно вокруг границ маски сегментации.

2. Эта дисперсия не ограничивается только переводом меньше шага (как предполагает Хуанг и др., 2018), но, похоже, присутствует даже при переводе на ± 2 в каждом направлении. Поэтому мы думаем, что наши результаты показывают более сложную картину трансляционной дисперсии CNN.

3. Топологии без заполнения нулями в сверточных слоях не устраняют трансляционную дисперсию топологии.

4. Методы агрегирования отдельных прогнозов в прогнозирование всего изображения, а именно, когда усреднять карты псевдовероятности прогнозируемых результатов и когда округлять эти прогнозы, которые могут иметь значительное влияние на общую точность.

5. Большая степень контекста изображения, включая добавление трехмерной информации к модели и использование листов большего размера, улучшает производительность модели при обучении и менее чувствительна к этим гиперпараметрам во время вывода.

Мы пришли к выводу, что расширенный доступ к памяти — либо за счет усовершенствования оборудования, либо за счет высокопроизводительных вычислительных методов, таких как параллелизм моделей (Shazeer et al., 2018) и параллелизм данных (Sergeev and Balso, 2018), — необходим для создания точных и точных данных. прочные модели.Плитку следует использовать только для тех случаев, когда физические ограничения памяти делают ее абсолютной необходимостью. Когда необходимо использовать тайлинг, исследователи должны внимательно изучить, как трансляционная дисперсия модели влияет на прогнозы, и сравнить методы агрегации тайлов, чтобы определить лучший способ смягчить вариативность, присущую тайлингу.

Наборы данных, использованные в этом исследовании, являются общедоступными в рамках Международного конкурса по сегментации опухолей головного мозга 2019 г. (https: // www.med.upenn.edu/cbica/brats2019.html) и набор данных спутниковых снимков SpaceNet (https://spacenet.ai/spacenet-buildings-dataset-v2/). Соответствующие цитаты для каждого из наборов данных приведены в статье.

Авторские взносы

GR, RP и SB: концепция и дизайн исследования. GR, RP, ST и AB: разработка программного обеспечения, использованная в исследовании. GR, RP, AB и SB: написали статью. GR, RP, ST, AB и SB: анализ и интерпретация данных, а также обзор / редактирование статьи.

Финансирование

Исследование, описанное в этой публикации, было частично поддержано Национальными институтами здравоохранения (NIH) под номерами наград NINDS: R01NS042645, NCI: U24CA189523, NCI: U01CA242871.Авторы несут ответственность за содержание данной публикации и не отражают официальную точку зрения NIH.

Конфликт интересов

GR, RP и AB были наняты компанией Intel Corporation.

Остальные авторы заявляют, что исследование проводилось при отсутствии каких-либо коммерческих или финансовых отношений, которые могли бы быть истолкованы как потенциальный конфликт интересов.

Сноски

Список литературы

Бакас, С., Акбари, Х., Сотирас, А., Билелло, М., Розицки, М., Кирби, Дж. С. и др. (2017a). Этикетки для сегментации и радиологические элементы для предоперационного сканирования коллекции TCGA-GBM . Архив изображений рака. DOI: 10.7937 / K9 / TCIA.2017.KLXWJJ1Q

CrossRef Полный текст

Бакас, С., Акбари, Х., Сотирас, А., Билелло, М., Розицки, М., Кирби, Дж. С. и др. (2017b). Этикетки для сегментации и радиологические элементы для предоперационного сканирования коллекции TCGA-LGG .Архив изображений рака. DOI: 10.7937 / K9 / TCIA.2017.GJQ7R0EF

CrossRef Полный текст

Бакас, С., Акбари, Х., Сотирас, А., Билелло, М., Розицки, М., Кирби, Дж. С. и др. (2017c). Расширение коллекций МРТ атласа глиомы генома рака с экспертными метками сегментации и радиомными характеристиками. Sci. Данные 4: 170117. DOI: 10.1038 / sdata.2017.117

PubMed Аннотация | CrossRef Полный текст | Google Scholar

Бакас, С., Рейес, М., Якаб, А., Бауэр, С., Ремпфлер М., Крими А. и др. (2018). Определение лучших алгоритмов машинного обучения для сегментации опухолей головного мозга, оценки прогрессирования и прогнозирования общей выживаемости в задаче BRATS. arXiv 1811.02629.

Google Scholar

içek, Ö., Abdulkadir, A., Lienkamp, ​​S. S., Brox, T., and Ronneberger, O. (2016). «3D U-Net: обучение плотной объемной сегментации на основе разреженных аннотаций», в Международной конференции по вычислению медицинских изображений и компьютерному вмешательству (Cham: Springer International Publishing), 424–432.

Google Scholar

Гош А., Эрлих М., Шах С., Дэвис Л. С. и Челлаппа Р. (2018). «Сложенные U-сети для сегментации наземного материала в изображениях дистанционного зондирования», Конференция IEEE / CVF 2018 по компьютерному зрению и распознаванию образов (CVPRW) (Солт-Лейк-Сити, Юта), 252–2524. DOI: 10.1109 / CVPRW.2018.00047

CrossRef Полный текст | Google Scholar

Гринспен, Х., Ван Гиннекен, Б., Саммерс, Р. М. (2016). Приглашенные редакторы глубокого обучения в области медицинской визуализации: обзор и перспективы новой захватывающей техники. IEEE Trans. Med. Imaging 35, 1153–1159. DOI: 10.1109 / TMI.2016.2553401

CrossRef Полный текст | Google Scholar

Хуанг Б., Райхман Д., Коллинз Л. М., Брэдбери К. и Малоф Дж. М. (2018). Мозаичная и сшивающая сегментация выходных данных для дистанционного зондирования: основные проблемы и рекомендации. arXiv: 1805.12219 . Доступно в Интернете по адресу: http://arxiv.org/abs/1805.12219

Google Scholar

Isensee, F., Petersen, J., Kohl, S.A.А., Егер П. Ф., Майер-Хайн К. Х. (2019). NNU-Net: Преодоление заклятия в успешной сегментации медицинских изображений. arXiv: 1904.08128 . Доступно в Интернете по адресу: http://arxiv.org/abs/1904.08128

Google Scholar

Ито, Ю., Имаи, Х., Дук, Т. Л., Негиши, Ю., Кавачия, К., Мацумия, Р., и др. (2019). Гибридный метод вне ядра на основе профилирования для больших нейронных сетей. arXiv: 1907.05013 .

Google Scholar

Камницас К., Ледиг К., Ньюкомб, В. Ф., Симпсон, Дж. П., Кейн, А. Д., Менон, Д. К. и др. (2017). Эффективная многомасштабная 3D CNN с полностью подключенным CRF для точной сегментации поражения головного мозга. Med. Изображение Анал. 36, 61–78. DOI: 10.1016 / j.media.2016.10.004

PubMed Аннотация | CrossRef Полный текст | Google Scholar

Крижевский А., Суцкевер И., Хинтон Г. Э. (2012). «Классификация Imagenet с глубокими сверточными нейронными сетями», в Advances in Neural Information Processing Systems 25 , eds F.Перейра, К. Дж. С. Берджес, Л. Ботту и К. К. Вайнбергер (Curran Associates, Inc.), 1097–1105. DOI: 10.1145 / 3065386

CrossRef Полный текст | Google Scholar

Menze, B.H., Jakab, A., Bauer, S., Kalpathy-Cramer, J., Farahani, K., Kirby, J., et al. (2014). Тест мультимодальной сегментации изображения опухоли головного мозга (BraTS). IEEE Trans. Med. Imaging 34, 1993–2024 гг. DOI: 10.1109 / TMI.2014.2377694

PubMed Аннотация | CrossRef Полный текст | Google Scholar

Рейна, Г.A., и Panchumarthy, R. (2018). «Неблагоприятные эффекты мозаичного изображения на сверточных нейронных сетях», в International MICCAI Brainlesion Workshop (Cham: Springer International Publishing), 25–36.

Google Scholar

Роннебергер О., Фишер П. и Брокс Т. (2015). «U-net: сверточные сети для сегментации биомедицинских изображений», Международная конференция по вычислению медицинских изображений и вмешательству с помощью компьютера (Cham: Springer International Publishing), 234–241.

Google Scholar

Рот, Х. Р., Ода, Х., Чжоу, X., Симидзу, Н., Янг, Ю., Хаяси, Ю. и др. (2018). Применение каскадных трехмерных полностью сверточных сетей для сегментации медицинских изображений. Comput. Med. Графики изображений. 66, 90–99. DOI: 10.1016 / j.compmedimag.2018.03.001

PubMed Аннотация | CrossRef Полный текст | Google Scholar

Шазир Н., Ченг Ю., Пармар Н., Тран Д., Васвани А., Коанантакул П. и др. (2018). «Mesh-TensorFlow: глубокое обучение для суперкомпьютеров» в Neural Information Processing Systems (Монреаль, Квебек).

Google Scholar

Weir, N., Lindenbaum, D., Bastidas, A., Etten, A.V, McPherson, S., Shermeyer, J., et al. (2019). Spacenet MVOI: набор данных многоканальных изображений с высоты птичьего полета. CoRR абс / 1903.12239 . Доступно в Интернете по адресу: http://arxiv.org/abs/1903.12239

Google Scholar

Систематическая выборка: определение, примеры и типы

Систематическая выборка — это статистический метод, который исследователи используют для обнуления желаемой совокупности, которую они хотят исследовать.Исследователи рассчитывают интервал выборки, разделив размер всей совокупности на желаемый размер выборки. Систематическая выборка — это расширенная реализация вероятностной выборки, при которой каждый член группы выбирается через регулярные периоды времени для формирования выборки.

Систематическая выборка определяется как метод вероятностной выборки, при котором исследователь выбирает элементы из целевой совокупности, выбирая случайную начальную точку, и выбирает элементы выборки после фиксированного «интервала выборки».’

Выберите респондентов

Например, в школе при выборе капитана спортивной команды большинство наших тренеров просили нас называть числа, такие как 1-5 (1-n), а учеников — случайным числом, выбранным тренером. Например, трое будут вызваны капитанами разных команд. Это легкий процесс отбора как для тренера, так и для игроков. Каждый член населения имеет равные возможности быть выбранным с помощью этой методики выборки.

Вот шаги для формирования систематической выборки:

Шаг первый: Разработайте определенную структурную аудиторию, чтобы начать работу над аспектом выборки.

Шаг второй: Как исследователь, определите идеальный размер выборки, то есть сколько людей из всего населения выбрать для участия в выборке.

Шаг третий: После того, как вы определитесь с размером выборки, присвойте номер каждому члену выборки.

Шаг четвертый: Определите интервал этой выборки. Это будет стандартное расстояние между элементами.

Например, интервал выборки должен быть 10, что является результатом деления 5000 (N = размер генеральной совокупности) и 500 (n = размер выборки).

Шаг пятый: Выберите участников, которые соответствуют критериям, которые в данном случае будут составлять 1 из 10 человек.

Шаг шестой: Случайным образом выберите начальный элемент (r) выборки и добавьте интервал к случайному числу, чтобы продолжать добавлять элементы в выборку. r, r + i, r + 2i и т. д. будут элементами выборки.

При проведении выборки убедитесь, что вы справедливо представляете совокупность. Систематический отбор образцов — это симметричный процесс, при котором исследователь отбирает образцы после конкретно определенного интервала. Подобная выборка не оставляет исследователю места для предвзятости при ее выборе.Чтобы понять, как именно работает систематическая выборка, возьмем пример урока физкультуры, где инструктор просит учеников выстроиться в очередь и просит каждого третьего человека выйти из очереди. Здесь инструктор не имеет никакого влияния на выбор образцов и может точно представить класс.

Например, если местная НПО стремится сформировать систематическую выборку из 500 добровольцев из 5000 населения, они могут выбрать каждого 10-го человека в популяции для систематического построения выборки.

Вот виды систематической выборки:

1. Систематическая случайная выборка
2. Линейная систематическая выборка
3. Круговой систематический отбор проб

Давайте подробнее рассмотрим эти методы выборки.

Систематическая случайная выборка — это метод отбора выборок с определенным заранее заданным интервалом. Как исследователь, выберите случайную начальную точку между 1 и интервалом выборки.Ниже приведены примеры шагов для создания систематической случайной выборки:

1. Сначала вычислите и зафиксируйте интервал выборки. (Число элементов в генеральной совокупности, деленное на количество элементов, необходимых для выборки.)
2. Выберите случайную начальную точку между 1 и интервалом выборки.
3. Наконец, повторите интервал выборки, чтобы выбрать последующие элементы.

Линейная систематическая выборка — это метод систематической выборки, при котором выборки не повторяются в конце и выбираются «n» единиц для включения в выборку, имеющую «N» единиц совокупности.Вместо того, чтобы выбирать эти «n» единиц выборки случайным образом, исследователь может применить логику пропуска для их выбора. Он следует линейным путем и затем останавливается в конце определенной популяции.

Этот интервал выборки или пропуска (k) = N (общая совокупность единиц) / n (размер выборки)

Как отбирается линейная систематическая выборка?

• Расположите всю популяцию в классифицированной последовательности.
• Выберите размер выборки (n)
• Вычислить интервал выборки (k) = N / n
• Выберите случайное число от 1 до k (включая k)
• Добавьте интервал выборки (k) к выбранному случайному числу, чтобы добавить следующий член в выборку, и повторите эту процедуру, чтобы добавить оставшиеся элементы выборки.
• Если k не является целым числом, вы можете выбрать ближайшее к N / n целое число.

При круговой систематической выборке выборка снова начинается с той же точки после завершения; таким образом, имя. Например, если N = 7 и n = 2, k = 3,5. Существует два возможных способа формирования выборки:

1. Если мы рассмотрим k = 3, образцы будут — ad, be, ca, db и ec.
2. Если мы рассмотрим k = 4, образцы будут — ae, ba, cb, dc и ed.

Как отбирается круговая систематическая выборка?

• Вычислить интервал выборки (k) = N / n. (Если N = 11 и n = 2, то k принимается равным 5, а не 6)
• Начинать случайным образом от 1 до N
• Создайте образцы, пропуская k единиц каждый раз, пока вы не выберете представителей всей генеральной совокупности.
• В случае этого метода будет N выборок, в отличие от k выборок в методе линейной систематической выборки.

Вот разница между линейной систематической выборкой и круговой систематической выборкой.

Вот преимущества систематической выборки.

• Исследователям чрезвычайно просто и удобно создавать, проводить, анализировать образцы.
• Поскольку нет необходимости нумеровать каждого члена выборки, лучше представить генеральную совокупность более быстрым и простым способом.
• Созданные образцы основаны на точности выбора участников и свободны от фаворитизма.
• В других методах вероятностной выборки, таких как кластерная выборка и стратифицированная выборка, или не вероятностных методах, таких как удобная выборка, есть вероятность того, что созданные кластеры будут сильно смещены, чего можно избежать при систематической выборке, поскольку члены находятся на фиксированном уровне. расстояние друг от друга.
• Фактор риска, связанный с этим методом отбора проб, крайне минимален.
• В случае, если есть различные члены генеральной совокупности, этот метод выборки может быть полезен из-за равномерного распределения членов для формирования выборки.

Другие методы вероятностной выборки, такие как кластерная выборка и стратифицированная случайная выборка, могут быть очень неорганизованными и сложными, из-за чего исследователи и статистики обратились к таким методам, как систематическая выборка или простая случайная выборка для получения лучших результатов выборки. Это занимает меньше всего времени, так как требует выбора размера выборки и определения отправной точки для этой выборки, которую необходимо продолжать через регулярные промежутки времени для формирования выборки.

Выберите респондентов

Рассмотрим пример, когда вы хотите сформировать выборку из 500 человек из 5000 населения; вам придется пересчитать каждого человека в населении.

После завершения нумерации исследователь может выбрать число случайным образом, например, 5. Пятый человек будет первым, кто войдет в систематическую выборку. После этого в выборку будет добавлен 10-й участник и так далее (15-й, 25-й, 35-й, 45-й и участники до 4995).

Вот еще 4 ситуации, когда использовать систематическую выборку:

1. Бюджетные ограничения: По сравнению с другими методами выборки, такими как простая случайная выборка, этот метод выборки больше подходит для условий, в которых есть бюджетные ограничения, а также чрезвычайно несложное выполнение исследования.
2. Несложная реализация: Поскольку систематическая выборка зависит от определенных интервалов выборки для определения выборки, исследователям и статистикам становится проще управлять выборками с большим количеством респондентов. Это связано с тем, что время, затрачиваемое на создание образцов, минимально, а затраты также ограничены из-за периодического характера систематического отбора образцов.