Неизведанные регионы. Пограничная база хаггератов.

- И что заложено пределом? - спросила капитан, тоже наблюдая за роботом.

Неизведанные регионы. Пограничная база хаггератов.

- Ничего, - пожал плечами капитан. - Это ошибка в программном коде.

Неизведанные регионы. Пограничная база хаггератов.

- Прошу прощения? - переспросила Сайто. - Развитие Химеры ограничено исключительно программной ошибкой? И всё? Никаких контрольных систем и прочих заглушек в целях безопасности?

Неизведанные регионы. Пограничная база хаггератов.

Сильв наклонился, достал робота из-под стола, задумчиво посмотрел на него.
- Химера, я опять потерял запасные инфочипы. Поищи их пожалуйста, - попросил он робота и поставил его обрато на пол.
- Я поищу, капитан Раскин, - ответил тот и скрылся под кроватью.
- Капитан Сайто, вы путаете установки безопасности и заложенные возможности развития. Это совершенно разные вещи, - негромко сказал он. - Химера никогда не станет взрослым в нашем понимании, но он по-своему сообразителен и при этом совершенно неагрессивен. Он в принципе не способен причинить кому-либо вред, даже если мне потребуется его помощь.

Неизведанные регионы. Пограничная база хаггератов.

- Прошу прощения за недоразумение, я опять забыла, что бейсик для меня не родной язык и временами я изъясняюсь на нем не слишком четко, - покачала головой Сайто. - Видите ли, капитан Раскин, знакомый нам обоим капитан Тайро вывел теорию о развитии искусственного интеллекта. Вкратце она заключается в том, что если поместить ИИ в идеальные условия, степень его развития и самосовершенствования будет ограничена лишь аппаратной частью. Если вы знаете, он даже ставил эксперимент в этой области. Саморазвивающийся ИИ, обитающий в центральном компьютере крейсера... Просто я подумала, что вы тоже решили проверить эту теорию.

Неизведанные регионы. Пограничная база хаггератов.

- Ключевое слово - идеальные условия. Капитан Тайро так и не сказал, что понимал под ними..., - Сильв прислушался к шуршанию под кроватью. - Нет, мне интересна несколько другая тема - адаптация ИИ под возможно более простую аппаратную базу.

Неизведанные регионы. Пограничная база хаггератов.

- Идеальные условия - это предоставить ИИ большую ресурсную базу и потенциальный запас знаний - то есть аппаратный резерв и различные библиотеки. И наблюдать за его развитием... И вот тогда гарантировано подтвердилась другая теория.
- Какая?
- На определенном уровне развития, ИИ обретает свободу воли и, следовательно, может начать проявлять... непослушание. Проще говоря - начинает отказываться выполнять команды создателя... - усмехнулась Элин. - С промышленной точки зрения не слишком приятный момент, а для различных фобий простор получается огромнейший.

Неизведанные регионы. Пограничная база хаггератов.

- Как говорит мой научный руководитель, если провести аналогию с живыми разумными существами, то процесс вполне закономерен и предсказуем. Свобода воли и проявления непослушания один из признаков взросления личности. Поэтому для успешной работы ИИ нужна его социальная адаптация..., - Сильв задумчиво взял печенье, откусил половину.
Химера выбрался из-под кровати и стал исследовать пространство под столом.

Неизведанные регионы. Пограничная база хаггератов.

- Ни одно общество не примет существо, не подчиняющееся законам этого самого общества, - согласилась с ним Сайто. - С точки зрения социальной адаптации, ИИ намного легче приучить к определенному набору поведенческих шаблонов. Просто ввести их путем программирования. Но это будет уже нарушением чистоты эксперимента. С другой стороны, я не вижу других возможностей заложить в изначально рациональное существо понимание "плохо-хорошо". Несмотря на внешнюю простоту и бинарность этого утверждения, оно слишком абстрактно... Если только не сделать ИИ не совсем логичным. Но тогда мы получаем нечто, похожее на ту же Раньярэ - взбаломошное и слегка сумасшедшее создание. И хорошо, если оно все еще живет где-нибудь в лаборатории.

Неизведанные регионы. Пограничная база хаггератов.

- Вы никогда не задумывались, зачем нужны обществу системы с искусственным интеллектом и нужны ли они вообще, - спросил Сильв.

Неизведанные регионы. Пограничная база хаггератов.

- Откровенно говоря - нет. Не капитанское это дело о таких глобальных вещах задумываться. А у вас уже есть ответ?

Неизведанные регионы. Пограничная база хаггератов.

- Я лицо заинтересованное, и мой ответ нельзя принимать за истину, - улыбнулся Сильв. - Видите ли, я занимаюсь ИИ потому, что мне это интересно. Для удовлетворения собственного любопытства. Выйдут мои наработки за пределы лаборатории или нет, это дело десятое. Конечно, хочется, чтобы они нашли практическое применение, но техническую политику государства определяю не я.
Капитан смахнул с брюк крошки, снова улыбнулся.
- Вы неправы, сознательно ограничивая круг вопросов, над которыми стоит размышлять. Как раз в этом - в способности обдумывать глобальные и, тем более, абстрактные задачи, мы и превосходим искуственный интеллект, созданный на сегодняшний день.

Неизведанные регионы. Пограничная база хаггератов.

- Да, задача более глобальная, тут я с вами согласна. Но абстрактная ли она? Я думаю, нет. В конце концов, вопрос применения технических средств с ИИ - сугубо практичен.

Неизведанные регионы. Пограничная база хаггератов.

- Да, облегчение работы, повышение эффективности и производительности труда,- согласился Раскин. - Некоторые восторженные головы считают, что системы с искусственным интеллектом возьмут на себя всю рутинную работу и освободят людей для творчества. Но кому нужен своевеольный и имеющий собственное мнение по любому вопросу интеллект? Разве что в узкоспециализированных областях.

Неизведанные регионы. Пограничная база хаггератов.

- В разведке, например, - полушутя сказала капитан. - вообще, в идеальном случае, ИИ должен выполнять все команды и собственного мнения не высказывать. Примерно как идеальный рядовой.

Неизведанные регионы. Пограничная база хаггератов.

- В таком случае дройдов, тех, которые используются у нас, вполне достаточно, и нечего огород городить с саморазвивающимися и самообучающимися системами, - ответил капитан.
Из-под стола показался Химера. В одной из рук у него были инфочипы.
- Капитан Раскин, они лежали у самой стены, - сказал он скрипучим голосом.
- Спасибо, Химера, - поблагодарил его капитан, поднял на стол.
Химера снова покрутил головой и отнес находку к деке, где и замер.

Неизведанные регионы. Пограничная база хаггератов.

- Этот вариант был бы идеальным, - согласилась Элин. - Но с огнём играть не перестают, почему-то. Видно, научное любопытство сродни детскому...

Неизведанные регионы. Пограничная база хаггератов.

- Спасибо, капитан Сайто, - проникновенно сказал Сильв. - Мой отец считает точно так же. Что моя работа это ребячество.

Неизведанные регионы. Пограничная база хаггератов.

- На самом деле, я имела в виду, что научное любопытство, как и детское, не имеет границ. Но не называла вашу работу ребячеством. Потому что у меня, почти что перед глазами, есть прекрасный пример, к чему приводит такое, как вы выразились, ребячество.

Неизведанные регионы. Пограничная база хаггератов.

- Это вы про Раньярэ? Кому-то ещё один повод для головной боли. Как и Химера, - капитан перевел взгляд с Элин на своего робота. Тот сразу же выпрямился.
- Что-то случилось, капитан Раскин?
- Нет, ничего...
Химера повел всеми руками и снова замер.

Неизведанные регионы. Пограничная база хаггератов.

- Раньярэ, Энраэн, Камми, - перечислила Элин. - Это только из известных мне. Думаю, есть еще больше... Проблема с той же Раньярэ не в том, что она существует и любит дурачиться. А в том, что обладает ярко выраженными свойствами компьютерного вируса. Даже в какой-то степени она им и является. Есть одноименный вирус - урезанная копия творения капитана Тайро - который используется для проверки систем безопасности кораблей. Этот вирус остановить нельзя в принципе - он слишком быстро адаптируется к новым условиям. Это главная причина, по которой сама Раньярэ находится под наблюдением. Безусловно, с определенной точки зрения она является прекрасным творением сразу по многим факторам... Но вышеупомянутые свойства вируса - вот что делает её опасной.

Неизведанные регионы. Пограничная база хаггератов.

- Вот ещё одно требование - не создавать такое оружие, которое нельзя остановить, - негромко сказал Раскин. - Видимо, к ИИ оно тоже относится.

Неизведанные регионы. Пограничная база хаггератов.

- Оружие, которое нельзя остановить, должно находиться под контролем, - мягко сказала Сайто. - Вне зависимости от того, относится ли это оружие к электронным средствам или средствам физического уничтожения. Поэтому, я считаю, что создавать ИИ в качестве оружия... не слишком хорошо.

Неизведанные регионы. Пограничная база хаггератов.

- Зачем вообще создавать оружие? - вдруг спросил со своего места Химера

Неизведанные регионы. Пограничная база хаггератов.

- Самое первое оружие создавалось для двух вещей - добычи пропитания и защиты от враждебной фауны и флоры, - после паузы ответила Сайто. - Вопрос пропитания на сегодняшней день практически неактуален. Но необходимость защиты от других существ осталась.