Искусственный интеллект – великий и ужасный. Непонятно, чего ждать от него – добра или зла. Да и возможен ли он? Может быть мы говорим о невозможном в принципе явлении?
Идея, состоящая в том, чтобы передать некоторые традиционно человеческие функции машине были известны давно. Сперва это были простые механизмы, упрощающие труд человека, дальше появились другие, которые сократили число необходимых рабочих рук до двух, а еще позже появились машины, которые и вовсе обходились без рук человека – достаточно всего лишь пристального взгляда.
Искусственный интеллект – по сути своей, является следующим шагом в этой незамысловатой цепочке. Другими словами, теперь мы хотим избавить компьютер, программу от непрерывного контроля со стороны человека. Сделать ее полностью автономной, и поручить ее самой себе. С такого ракурса искусственный интеллект вполне осуществим. Но к чему это приведет? С одной стороны, полнейшая определенность. Все, что записано в программе будет беспрекословно выполняться при любых условиях. Но с другой стороны нас ждет полная непредсказуемость. Если человек не мгновенно, но может подстроиться под сложившуюся случайную ситуацию, то машина должна предвидеть совершенно все, и не менее чем. Невозможно учесть все нюансы и даже эвристические методы не дадут 100% гарантии, что если что-либо пойдет не так, то машина примет верное решение.
А если случается авария? Ведь не обвинишь машину в халатности, не станешь же ее наказывать. Но как быть, если она подчинена самой себе? Она отвечает лишь за себя и в то же время, она не теряет ровным счетом ничего, если вдруг просчитается. То есть, полная безответственность, перенося ситуацию на мир людей? Получается, что так… Вы доверите такой машине проводить операцию на живом человеке?.. Ситуация решается только появлением чувства ответственности. Но это чувство невозможно запрограммировать на распознавание сенсорами машины, как, например, холод или плохое освещение. Машина тем и плоха, что ее эта “жизнь” стоит точно определенную сумму в денежном выражении, которая состоит из стоимости всех составных ее частей и труда людей, создавших ее и не стоит ровно ничего по сравнению с человеческой. Такую жизнь не жаль потерять. Такую жизнь можно купить – были бы деньги.
Машине нечего терять. Даже физическое повреждение останется лишь физическим повреждением, а ограничение свободы станет ни чем иным, как лишним поводом перейти в режим экономии энергии. Машину нельзя наказать за ошибку. Машину, которая ошиблась, скорее отправят на доработку, чем утилизируют. Тем самым, машина оказывается нужна. Во-первых, потому что она материально дорога. Во-вторых, потому что она слишком сложна, чтобы быть просто переплавленной, как кусок арматуры. Проще либо доработать, либо ограничить. И если позволить себе предположить, что машина “осознает” свою ценность и незаменимость, то это еще больше разовьет в ней “чувство” безнаказанности. Даже программные запреты на определенные деяния не остановили бы машину. Она подчинена и зависит только от самой себя.С другой стороны приходит обнадеживающий вывод. Если машина независима, то она не может принимать и приказы. То есть нельзя заставить такую машину убить человека или сделать что-либо подобное. Тогда получается, что машина вольна делать только лишь суждения в зависимости от окружающей ее информации. И здесь становится неизвестно, какие суждения могут возникнуть в результате.
А что насчет существования самой машины? Сложно назвать этот процесс жизнью даже тогда, когда машина обретет разум. Машина не зависит от внешней среды никаким образом, кроме как от энергии, ее питающей. Но есть ли у машины смысл подпитывать себя энергией? В чем смысл существования машины? Скорее всего, многое будет зависеть от исходного кода и заложенных в нем основ и принципов. С большой вероятностью можно сказать, что одним из принципов будет ежедневная подзарядка, дабы продлевать свой срок службы. Но, предположим, что машина уже не принимает цели своего создания, то есть, к примеру, уже “не хочет” управлять погрузчиком. У нее не остается цели, либо синтезируется новая. И машина будет подпитывать себя, если только эта цель окажется для нее существенной. Если же цель оборвется на этапе отказа от основной, то я не вижу поводов продолжать свое существование.
Машине не может быть интересно, с большой долей вероятности можно утверждать, что машина не склонна к любознательности. Конечно, это может быть одним из принципов построения, но если машина начинает “осмысливать” свою “жизнь” с чистого листа, где все принципы, да и весь исходный код становятся лишь “площадкой для взлета”, основой появления совершенно чистого разума, то она вряд ли осмысленно направится познавать мир. Ей это ни к чему, ведь у нее нет цели, либо осталась все та же, определенная еще в самом начале цель по вождению погрузчика, о которой ей известно совершенно все.
Я не возражаю против создания искусственного интеллекта. Но мне страшен, вернее, меня настораживает возможный результат. Сложно, но возможно предугадать действия человека и животного, но абсолютно невозможно предугадать действия новой формы жизни, которая не зависит ни от чего и ничего не теряет в случае промаха. На днях случайно возникла мысль, после переросшая в умозаключение: Чем ограниченее искусственный интеллект, тем он совершеннее. Согласитесь, что интеллект, зажатый рамками шахматной доски 8×8 совершенен. Да он не выигрывает всегда, но ведь следует принять во внимание то, что гипотетически какой-то ход человека может поставить в тупик машину, и совершенно все комбинации возможных ходов станут бесполезными на пути к победе. Если разум ограничить областью, то он будет более эффективен. У него не будет возможности уйти в сторону. Возможно, получится создать искусственный интеллект из кусков ограниченного разума, но сколько этих кусков потребуется, чтобы создать полноценный интеллект? Боюсь, это невозможно.
