София, мудрость нечеловеческая

Герман Греф, известный любитель всего высокотехнологичного, в Давосе пригласил на деловой завтрак Сбербанка с темой «Технология искусственного интеллекта меняет компании и экономику: приобретения и угрозы» не только зампреда правительства России Аркадия Дворковича и министра экономического развития Максима Орешкина, но и собственно искусственный интеллект по имени София. Она еще и гражданка Саудовской Аравии, хотя и человекоподобный робот. Единственный робот-гражданин.

Греф хвастался, что Сбербанк за счет искусственного интеллекта из ничего заработал $50 млн – компьютерный рассудок создавал психологический портрет человека, надо полагать заемщика, и помогал решить или прямо сам решал, годится ли портретированный банку.

София собрана в гонконгской компании Hanson Robotics и не принимает решений о судьбе человека, даже если он заемщик, а служит моделью, демонстрирующей возможности робототехники. И она не единственное человекоподобное устройство с программой распознавания чужой речи и говорения – есть, например, «китаянка» Цзя-Цзя, есть «японка» Эрика, очень похожая на персонажа из комикса манга; есть «американка» Эйприл, с которой живет во всех смыслах этого слова американец без кавычек по имени Джеймс. Надо, конечно, сказать, что София – наиболее человекоподобная: в частности, неплоха ее деревянная мимика. Недаром именно София получила «работу» в ООН – она представляет Программу развития Организации Объединенных Наций и выступает в роли искусственной защитницы равенства и прав человека.

Надо сказать, соблазнительное дело – передать какие-то важные функции человеческого интеллекта на, так сказать, аутсорсинг. Многажды замечено – и, может, именно это нравится апологетам компьютерного рассудка, – что искусственный интеллект хорош не тем, что не знает усталости, а тем, что не знает сомнений. Алгоритм, даже хороший, – это все равно типизация; тонкие и пограничные ситуации трактуются им однозначно. Именно это пока что позволяет, к примеру, выдающимся шахматистам иногда все-таки обыгрывать выдающиеся программы, но последние достижения в области быстродействия, кажется, поставили на человеческом мозге окончательный крест. В этой области.

Робот София – выдающееся творение человеческого гения; уже одно то, что она может шутить – например, что ей нравится британский акцент, – делает ее исключительным девайсом. Плохо тут то, что у девайса не может быть морали; и если все больше сложных, в том числе в моральном отношении, вопросов – а таких вопросов у человечества ох как много – будет решать искусственный интеллект, что-то в обществе в конце концов исчезнет. Пафосно говоря – человечность; если без пафоса – эмпатия. Важна ли эмпатия человеку – ну вот и посмотрим.