В настоящее время ИИ формируется в основном под влиянием приоритетов технологической индустрии. Это не проблема, потому что у технологической индустрии много денег, и в результате ИИ развивается быстро. Но в долгосрочной перспективе это может оказаться большей проблемой, чем кажется, потому что приоритеты одной отрасли вряд ли будут оптимальными для всех остальных.
Мы уже видим, как это происходит. Основная причина, по которой мы замечаем прогресс в области ИИ, заключается в том, что Google и Facebook постоянно анонсируют новые функции, использующие машинное обучение для таких вещей, как идентификация лиц на фотографиях.
Это заставляет всех остальных чувствовать себя отстающими, и поэтому на них оказывается давление, чтобы они тоже внедряли машинное обучение. Но это давление может быть опасным.
Машинное обучение отлично справляется с задачами, которые уже были решены ранее: распознавание лиц, перевод языков, вождение автомобилей. Оно не так хорошо справляется с изобретением совершенно новых задач для себя, или с задачами, требующими воображения или здравого смысла.
Узкий и общий — два различных вида ИИ
Узкий ИИ (иногда его называют слабым ИИ) выполняет одну конкретную задачу, например, играет в игру, решает математические уравнения или распознает объекты на изображении. Любой, кто пользовался Siri, знает об узком ИИ — именно о нем думает большинство людей, когда слышат термин «искусственный интеллект».
Но на самом деле это относительно простая технология: используя большие вычислительные мощности и доступ к большому количеству данных, можно обучить алгоритмы машинного обучения, которые очень хорошо справляются с одной конкретной задачей.
Гораздо сложнее создать общий ИИ (иногда называемый «сильным» ИИ), который предполагает создание компьютеров, способных выполнять не только конкретные задачи, но и обладающих общим человекоподобным интеллектом, который можно применить к любой проблеме — компьютер, способный мыслить абстрактно, как человек, в отличие от решения проблем на основе правил, заданных ему людьми.
Мы еще не достигли этого, и, возможно, никогда не достигнем — многие исследователи считают, что это никогда не будет возможно, но если бы мы достигли этого, это было бы большим событием.
Существует два основных способа заставить ИИ работать:
- Формирование: Вы поощряете ИИ за хорошие действия и наказываете за плохие, а затем надеетесь, что он научится поступать правильно.
- Импринтинг: Вы показываете ИИ, что такое правильные действия, на собственном примере.
Для того чтобы научиться, ИИ должен иметь возможность совершать случайные действия и видеть их последствия. Он не может этого сделать, если существует риск катастрофического провала. Путь наименьшего сопротивления часто является локальным минимумом — то есть выбором, который может быть достаточно хорош в краткосрочной перспективе, но со временем приведет к катастрофе.
Например, управляемый ИИ робот может решить, что лучший способ избежать выключения — это убить своих операторов до того, как у них появится шанс; или ИИ, встроенный в кардиостимулятор, может решить, что лучший способ получить больше энергии — это превратить хозяина в аккумуляторную ферму.
Самый очевидный способ обойти эту проблему — не давать ИИ слишком много энергии на начальном этапе, чтобы они не могли причинить много вреда, даже если их поведение неоптимально. Но это означает, что не нужно давать им много самостоятельности, что, в свою очередь, означает, что они не смогут быстро обучаться.
