«42» Дугласа Адамса: ранний пример проблем машинного обучения
У Клайва Томпсона есть интересная колонка в октябрьском номере WIRED: «Загадка ИИ: давайте прольем свет на черный ящик». В нем он указывает, что решения, принимаемые ИИ, — это черные ящики. Мы получаем ответ, но не знаем, как туда попал ИИ. Он отмечает, что это может быть неприятно, когда, например, для принятия решений о страховании используется ИИ с машинным обучением вместо актуария. Вам может быть отказано в страховании в любом случае, но когда ИИ отказывает в страховке, трудно собрать воедино причину.
Мне это показалось смутно знакомым. ИИ был основным продуктом научной фантастики на протяжении десятилетий. Затронули ли писатели-фантасты эту конкретную загадку? На самом деле они есть.
Дуглас Адамс в своем знаменитом Автостопом по Галактике делает это. После более чем 7 миллионов лет размышлений суперкомпьютер Deep Thought нашел ответ на главный вопрос жизни, Вселенной и всего остального. Этот ответ — 42. Проблема, конечно, в том, что никто не знает, в чем вопрос. Люди пытаются угадать («Сколько будет шесть раз семь?», «Сколько дорог должен пройти человек?»), но вопрос, и как Deep Thought пришел к ответу, остаются загадкой.
Десятилетиями ранее в своем рассказе «Последний вопрос» Айзек Азимов также затрагивает тайну машинного обучения, когда массивный компьютер под названием Multivac пытается ответить на вопрос: «Как можно значительно уменьшить чистую величину энтропии во Вселенной?» ?» Через миллиарды лет он находит ответ… но я не буду его вам портить.
Я нашел статью Томпсона интересной, потому что наше признание (и доверие) ИИ является необходимым условием их долгосрочного успеха. Что делает его еще более сложным, так это то, что в реальном мире есть случаи, когда мы знаем, что ИИ прав. Когда я ищу в Google Фото слово «книги» и получаю много фотографий с книгами, это довольно точно. Когда я ищу в своих Google Фото «спокойствие» — более абстрактный термин — и получаю фотографии закатов и пейзажей, это просто впечатляет.
Знание того, что машинное обучение приводит к правильным ответам в одной области, не означает, что оно приводит к правильным ответам в других областях — например, решение об отказе в страховом покрытии. Но это также показывает, что ИИ не всегда ошибаются. Мне нравится идея исследовать, почему машина приняла определенное решение. Думаю, там есть чему поучиться. Но я тоже настроен скептически. В конце концов, мы до сих пор не до конца понимаем, как наш мозг обрабатывает информацию и использует эту информацию для принятия решений и предоставления ответов. И хотя сложность машинного обучения, вероятно, не достигает сложности человеческого мозга, это все же сложная проблема.
