Что такое глубокое обучение?

Глубокое обучение относится к определенным типам машинного обучения, но точное определение найти сложно. Этот термин был придуман примерно в 2006 году, но различные формы изучались с тех пор, как машинное обучение возникло как область исследований [1]. Это часто связано с нейронными сетями, в которых уровни этапов обработки более многочисленны или глубоки, а не неглубокие [1]. Глубокое обучение отличается от других типов машинного обучения; ML — это просто прогнозирование, в то время как глубокое обучение является прогнозирующим и генеративным; он может структурировать неструктурированные данные.

В статье для журнала Nature исследователи дали следующее описание:

Глубокое обучение позволяет вычислительным моделям, состоящим из нескольких уровней обработки, изучать представления данных с несколькими уровнями абстракции. Эти методы значительно улучшили современный уровень распознавания речи, визуального распознавания объектов, обнаружения объектов и многих других областей, таких как открытие лекарств и геномика. Глубокое обучение обнаруживает сложную структуру в больших наборах данных с помощью алгоритма обратного распространения, чтобы указать, как машина должна изменять свои внутренние параметры, которые используются для вычисления представления на каждом уровне из представления на предыдущем уровне.

LeCun, Y., Bengio, Y., & Hinton, G. (2015). Deep learning. Nature, 521, 436. Retrieved from http://dx.doi.org/10.1038/nature14539.

Существует множество примеров применения глубокого обучения и глубоких нейронных сетей. Одним из ярких примеров глубокой нейронной сети, которая развивает технологии, делающие компьютеры более человечными, является Google Duplex. Платформа, анонсированная в мае 2018 года, может использоваться для естественного звучания телефонных разговоров для выполнения таких задач, как рекомендация ресторана [2].

Глубокое обучение описывает способность машин собирать и анализировать данные новыми способами, раскрывая невиданные ранее идеи. Это также позволяет машинному обучению открывать возможности для ИИ. Рисунок иллюстрирует частичное совпадение всех трех этих концепций.

1. Schmidhuber, J. (2015). Deep learning in neural networks: An overview. Neural Networks, 61, 85–117. https://doi.org/10.1016/j.neunet.2014.09.003
2.  Leviathan, Y. (Google), & Matias, Y. (Google). (2018). Google Duplex: An AI System for Accomplishing RealWorld Tasks Over the Phone. Retrieved June 23, 2018, from https://ai.googleblog.com/2018/05/duplex‐ai‐system‐for‐natural‐conversation.html