НОВОСТИ [Перевод] Онтол от DeepMind: самые полезные материалы по искусственному интеллекту от мирового лидера

Alvaros
Онлайн
Регистрация
14.05.16
Сообщения
21.452
Реакции
101
Репутация
204
irekbwdsj85uxclvy955uxofusk.jpeg



Ученые из DeepMind составили Curated Resource List образовательных материалов для тех, кто хочет связать свою жизнь с ИИ и машинным обучением. Я называю такую подборку «онтол» — список того, что формирует картину мира по данному вопросу, ранжированный по важности и составленный живым человеком, специалистом, который несёт репутационную ответственность за этот список (чтобы не было в нём маркетинговой и ангажированной фигни).

По задумке, если десяток лучших компаний в области ИИ попросят своих ведущих специалистов (каждого) сделать подборку лучших материалов, которые сформировали их как специалистов, то мы получим массив подборок (список топ-10/100 ресурсов+имя составителя) и на основе этого можно будет делать интересные выводы ( а)по качеству материалов, что следует учить в первую очередь б) по качеству специалистов, которые могут выделять главное в)что-то ещё). Так мы «разметим» все открытые тексты/видео в области ИИ. Потом возьмемся за другие темы: еда, доверие, дело жизни, семья, сотрудничество, когнитивные искажения и прочее — то, что формирует картину мира.

Тестируйте прототип и подписывайтесь на канал

Оглавление













Этика


(видео) — Арвинд Нараянан дискутирует о различных определениях справедливости и их компромиссах, которые они представляют для общества.

(книга, видео) — Обзор справедливости в темах, касающихся машинного обучения.

(видео) — Углубленные и увлекательные лекции по вопросам справедливости и нравственной философии ( ).

(видео) — Солон Бароказ и Мориц Хардт подробно обсуждают социотехнические элементы справедливости в машинном обучении.

(видео) — Кейт Кроуфорд рассуждает об этнических последствиях предвзятости в системах искусственного интеллекта.

Safety


(публикация) — Отличный обзор литературы по безопасности общего искусственного интеллекта до 2018 года с сотнями ссылок для дальнейшего изучения.

(Новостная рассылка) — Еженедельная рассылка с кратким изложением последних работ в области безопасности искусственного интеллекта.

(видео) — Образовательные и развлекательные видео, знакомящие аудиторию с ключевыми концепциями безопасности общего искусственного интеллекта.

(публикация) — Полезный обзор на безопасность искусственного интеллекта, первоначальная и статья уже ставшая классикой в области безопасности ИИ.

(книга) — Обязательная к прочтению книга по безопасности искусственного интеллекта авторства первоначальника ИИ.

Теория и фундаментальные понятия


(видео) — Отличная серия учебных пособий. Особенно полезны видео с нуля по линейной алгебре и нейронным сетям.

(видео) — Кратко под новым углом резюмируют весь курс по линейной алгебре с техническими деталями: как линейная алгебра применяется в реальной жизни, а особенно в области машинного обучения.

(онлайн курс) — Первый очень практичный и обширный курс по машинному обучению. Поскольку курс на платформе Coursera, ваши задания могут оценивать, а ассистенты и другие обучающиеся могут помогать вам с материалом курса.

(онлайн препринт) — Отличное введение в причинный вывод. Это препринт полной версии последней книги.

(онлайн книга) — Новая книга о причинном выводе.

(видео) — Охватывает широкий ряд областей в фирменном стиле лекций МакКея.

(видео) — Курс легендарного Дэвида МакКея по теории информации, выявлению шаблонов данных и нейронным сетям.

(онлайн статья) — Альтернативный способ формулирования операций причинного вывода.

(видео) — Лекции и практические задания по вероятностному моделированию и Байесовскому обучению.

(онлайн книга) — Эта книга простым и доступным способом знакомит читателя с причинным выводом.

(видео) — Дает очень хорошее представление о ключевых идеях в линейной алгебре, не вдаваясь в технические детали. Сопровождает традиционный учебник по линейной алгебре или курс колледжа.

(блог) — Полезные советы и рекомендации, глубокий анализ различных концепций машинного обучения.

(материалы к курсу) — История человеческого интеллекта.

(видео) — Введение представляет собой отличное описание основ топологии. Семинар убедительно описывает определенные приложения.

(видео) — Отличное введение для начинающих в статистику, теорию вероятности, математику, необходимые для понимания машинного обучения.

— Caltech (видео) — Аккуратное введение в машинное обучение. Очень понятное объяснение тем.

(заметки к курсу) — Краткое объяснение метода Монте-Карло.

(книга) — Отличная книга, охватывающая основные математические концепции, необходимые для машинного обучения.

(онлайн курс) — Отличный курс 2006-го года по основам (а теперь уже и истории) машинного обучения до того, как глубокое обучение и многие уровни абстракции стали мейнстримом.

(видео) — Полезный курс и презентация по машинному обучению.

(книга) — Вероятно, самый поразительный математический источник из всех существующих. Книга предоставляет подробный обзор самый важных концепций в современной математике, не предполагающий никакого бэкграунда в самопровозглашенном формате “сказок на ночь” — увлекательная, простая для понимания и интуитивно понятная.

(Problem Solving Community) — Серия сложных математических задач и проблем из информатики для активизации мозга. Их очень интересно решать, а приобретенные знания помогут вам в карьере в области глубокого обучения.

(онлайн курс) — Бесплатный курс по основам машинного обучения, ориентированный на людей с математическим образованием, ведут профессора Хасти и Тибширани.

(видео) — Лаконично, комплексно.

(главы из книги) — Легкое введение в причинный вывод и исторический экскурс в его развитие.

Neuroscience


(подкаст) — Подкаст, в котором сливаются нейробиология и искусственный интеллект.

(видео) — Лекции из знаменитой летней школы Вудс Хоул по вычислительной *когнитивной* нейробиологии (подробнее о высокоуровневом познании, поведении и связях с машинным обучением).

(слайды и тексты) — Обзор вычислительных подходов к моделированию человеческого познания, тесно связанное с искусственным интеллектом и машинным обучением.

(Class notes) — Междисциплинарные и передовые.

(видео) — Лекции из знаменитой летней школы Вудс Хоул по вычислительной *системе* нейробиологии (подробнее о циклах и системных свойствах мозга)

(глава из книги) — Отлично объясняет на примерах на примерах полезных алгоритмов вроде EM. Служит отличным дополнением к книге Бишопа.

(видео) — Курс выпускного уровня на стыке когнитивной науки, нейробиологии и искусственного интеллекта.

(интерактивный учебник) — Интерактивный учебник, описывающий использование вероятностной модели для создания и моделирования человекоподобного поведения.

(публикация) — Хороший обзор нейробиологии с точки зрения биологии.

(онлайн книга) — Популярное введение в теоретическую нейробиологию.

Natural Language Processing


(видео) — Введение в обработку естественного языка для людей с техническим образованием.

(публикация) — Понятный обзор на то, как используются нейронные сети в обработке естественного языка.

(видео) — Стэнфордский курс по современной обработке естественного языка.

(список датасетов и результатов) — Вебсайт под управлением сообщества с перечислением большого количества задач, датасетов и современных результатов по обработке естественного языка.

(курс лекций) — Продвинутый лекционный курс по обработке текста на естественном языке, прочитанный в Оксфорде DeepMinder’ами.

(книга) — Авторитетная отсылка на обработку естественного языка — теперь уже в 3D версии и доступная онлайн.

(запись в блоге) — Отличное введение в доминирующую модель обработки естественного языка.

Machine Learning


(онлайн курс) — Отличный обзор на формирование и выявление проблем машинного обучения и их решения.

(онлайн книга) — Основы вероятностного рассуждения и моделирования.

(видео) — Самое доступное и понятное введение в Гауссовский процесс.

(книга) — Дэвид МакКей представляет уникальный взгляд на связь между теорией информации, инференцией и обучением. Стиль его письма уникален, как и юмор в книге.

(блог) — Блог для тех, кто хочет заняться машинным обучением.

(конспект) — Конспекты с лекций Герберта Ягера по машинному обучению. Описывают много основ и стандартов тем по машинному обучению. Очень хорошо написаны (почти как книга).

(видео) — Курс 2012-го года по машинному обучению от Университета Британской Колумбии.

(видео) — Отличное объяснение графических моделей легендарным Сэмом Ровейсом.

(список ресурсов) — Достаточно полный обзор топовых онлайн курсов по машинному обучению.

(видео) — Введение курса по машинному обучению.

(список ресурсов) — Сборник классических работ по всем темам в машинном обучении, когнитивной науке, статистике, теории информации, нейробиологии, искусственном интеллекте, обработке сигналов, исследование операций, эконометрике и др.

(онлайн ресурсы) — Большой набор бесплатных программных инструментов для ознакомления с данными, визуализацией данных, классификацией, регрессией, выбором характеристик и основой data science. Я постоянно использую эти ресурсы, чтобы научить других видеть закономерности в данных и ценить, как много может увидеть система и использовать эти и более сложные паттерны.

(видео) — Имя Дэвида МакКея хорошо известно в этой области, в особенности в области статистики и вероятностном машинном обучении.

Deep Learning


(запись в блоге) — Очень доступное вступление к нейронным сетям. Также в его блоге можно найти применимые для жизни практические советы.

(запись в блоге) — Исчерпывающий пост, рассматривающий основные варианты градиентного спуска, используемого для оптимизации нейронных сетей

(блог) — Подход Криса Ола можно назвать очень образовательным за изучение ключевых концептов (таких как понимание концепций и элементов) в машинном обучении на глубоком уровне. Крис страстно увлечен образованием и отлично пишет посты.

(видео) — Полезная отлично подготовленная вступительная серия. Вполне вероятно, самая лучшая для школьников и новичков.

(видео) — Отличные заметки по ссылке: Хорошее продолжение курса Эндрю Ына, которое гораздо глубже погружает нас в сверточные нейронные сети (про это кратко упоминалось в конце предыдущего курса) и представляет более продвинутые концепции, такие как генеративные модели, глубокое подкрепление.

(видео) — Отличный обзор как классических, так и наиболее ранних работ по сверточным нейронным сетям, которые создают основу для большей части работ с визуальными данными

(видео) — Оксфордский курс 2015-го года по глубокому обучению.

(книга) — Обширное введение в основы глубокого обучения некоторыми первооткрывателями в этой области.

(Colabs) — Существуют учебные пособия, которые были разработаны и проверядись на людях в течение многих лет, для преподавания глубокому обучению от фундаментальных основ до продвинутых тем, таких как построение фреймворка автоматического дифференцирования или обучение генеративно-состязательной сети.

(книга) — Отличный формат, превращающий изучение ключевых концепций машинного обучения в увлекательное и интерактивное занятие.

(видео) — Этот курс охватывал много вопросов связанных с глубоким обучением и обучением с подкреплением. Он состоял из двух, в основном отдельных, путей: один на глубоком обучении и один на обучении с подкреплением, которые могли изучаться отдельно.

EEML ( / ) Lab materials (Colabs) — Лекции и практические задания по вероятностному моделированию и Байесовскому обучению.

(слайды) — Слайды для лекций прошлогодней EEML (записи, к сожалению, нет). Они охватывают большое количество материала от введения до более сложных презентаций.

(онлайн курс) — Модели глубокого обучения не существуют в вакууме. Этот курс освещает практические аспекты глубокого обучения, такие как модель внедрения, инфраструктуру, отладку и даже подготовку к собеседований на тему глубокого обучения.

Intro to machine learning talk at Lviv workshop ( , ) (лекции) — Введение в машинное обучение. Оно вводит теорию, на основе которой можно построить механизм глубокого обучения.

+ (видео + слайды) — Материалы из Khipu — видео и практические задания для прохождения студентами.

(блог) — Блог Лилиан содержит посты на различные темы, начиная с преподавания учебной программы, учебы, основанной на самоконтроле, мета-обучении и тд. Сами посты не слишком детализированы, иногда слишком углубляются в специализацию, но довольно часто обновляются новой информацией, появившейся после выхода первоначального поста.

(видео и туториалы) — Вводный курс Массачусетского технологического института по глубокому обучению и информационным системам.

(журнал) — Рецензируемый онлайн-журнал, позволяющий создавать информативные визуализации и код в том числе для облегчения понимания исследовательских работ и повышения прозрачности и воспроизводимости.

(онлайн книга) — Классика для всех, кто хочет понять корни глубокого обучения ещё в тот момент, когда это был “коннекционизм”.

(онлайн курс) — Рекомендован друзьями других технических специальностей (вроде физики и математики) в качестве отличного введения в глубокое обучение.

(онлайн курс) — Полезен для всех, кто хочет начать изучать обработку естественного языка.

(учебник) — Это учебник всех учебников по обучению с подкреплением. Он выстроен от очень базовых вещей до продвинутых тем. Сопровождает лекции Дэвида Сильвера.

Reinforcement Learning


(онлайн курс) — Четыре последовательных курса по обучению с подкреплением, начиная с Bandits и заканчивая аппроксимацией функций (NNs), методом градиента и средним вознаграждением.

(видео) — Содержит обзор последних работ в области мета-обучения и многозадачности. Вдохновляющее и очень полезное видео для того, чтобы идти нога в ногу с современными идеями в данной области.

(видео) — Хорошо подхватывает идеи из учебника Саттон и Барто: Почему нам стоит задумываться об этих проблемах? Как соотносятся идеи, которые мы уже обсуждали? и тд.

(видео) — Полезно для всех, кто хочет узнать об обучении с подкреплением.

(видео) — Видеолекции по обучению с подкреплением из курса Эммы Бранскилл в Стэнфорде.

(блог) — Доступные презентации базовых и продвинутых алгоритмов обучения с подкреплением.

(книга) — Это та самая вводная книга по обучению с подкреплением. Рич отлично объясняет фундаментальные концепции обучения с подкреплением, а также проходит с читателем весь путь до передовых открытых исследовательских задач.

(онлайн курс) — Проект Альбертского университета — центра исследования обучения с подкреплением. Адам Уайт связан с Deep Mind; Целостная и хорошо продуманная серия курсов, дающая наиболее важные основы обучения с подкреплением.

(код) — Образовательный ресурс, созданный OpenAI, облегчает изучение глубокого обучения с подкреплением.

Unsupervised Learning and Generative Models


(конспект) — Охватывает большое количество вероятностных методов.

(интерактивный учебник) — Представляет собой интерактивное и углубленное путешествие ко всем подводным камням использования tSNE, ставший одним из наиболее используемых низкоразмерных вложений данных.

(видео) — Потрясающее объяснение, использующее примеры полезных алгоритмов вроде EM. Отличное дополнение к книге Бишопа.

(публикация) — Полезна для тех, кто занимается обучением с подкреплением или генеративным моделированием.

(материалы к курсу) — Подойдут тем, кто интересуется генеративным моделированием и не только.

(публикация) — Лучшее объяснение вариационных методов в контексте генеративного моделирования.

Прочее


Метаобучение
(видео) — Видеолекции по многозадачности и мета-обучению.

Философия
(глава из книги) Философские предпосылки индуктивного смещения и почему сложно сделать выводы и введение.

Наука
(видео) — Беседы с разнообразными и впечатляющими приглашенными выступающими.

(видео) — Отличный ресурс для изучения многих важных областей современной физики, включая классическую, статистическую и квантовую механику. Эти лекции не предполагают большие фоновые знания, Леонард может ввести и объяснить сложные идеи в доступной и увлекательной манере.

Computer Science
— Интерактивные визуализации Майка Бостока.

— Понятная книга об “идеях на пересечении теории вероятности, анализа и геометрии, которые возникают в широком спектре современных проблем в различных областях”.

Робототехника
(видео) — Видео курс по нелинейной динамике.

За помощь с переводом спасибо Але Бланкмер.

rdkllrbtrth_kdpceb-vxzrxl1o.jpeg


Узнайте подробности, как получить востребованную профессию с нуля или Level Up по навыкам и зарплате, пройдя платные онлайн-курсы SkillFactory:

  • (12 недель)
  • (12 месяцев)
  • (9 месяцев)
  • (9 месяцев)


Читать еще


 
Сверху Снизу