Геноцид
Невежество

Искусственный интеллект и управление

Редакция, 28 ноября 2019
Просмотров: 1584
Искусственный интеллект и управление

Настоящее дело для искусственного интеллекта – это управление людьми

Что произойдет если доверить искусственному интеллекту управлять людьми? В нашем законодательстве 99% законов противоречат друг другу. По логике вещей должен наступить коллапс власти и остановка системы управления...

 

Дай дураку искусственный интеллект, он его разобьет и руки порежет

Автор – Лукич

А да­вай­те теперь по­раз­мыс­лим о месте, ко­то­рое ис­кус­ствен­ный ин­тел­лект (далее – искин) займет в нашей жизни, когда (если) он будет изоб­ре­тен и при­ме­нен. По поводу его внут­рен­ней сущ­но­сти я пред­ла­гаю не спо­рить. Пусть это будет лишь очень про­дви­ну­тый ал­го­ритм, име­ю­щий воз­мож­ность работы с Big Data, и уме­ю­щий похоже ко­пи­ро­вать пат­тер­ны по­ве­де­ния на­сто­я­щих людей. Но, если хотите, пусть об­суж­да­е­мое будет ис­ки­ном на­сто­я­щим, как вы это сами по­ни­ма­е­те.

Глав­ный вопрос тут вот в чем. Куда мы при­ме­ним этот Молот Тора, как только его по­лу­чим? А со­мне­ний в том, что его можно из­го­то­вить, прин­ци­пи­аль­но ведь нет. Циф­ро­мо­ло­тил­ки мы умеем, са­мо­обу­ча­ю­щи­е­ся ал­го­рит­мы тоже, биг дата на­коп­ле­на – всё есть.

Ска­же­те, в управ­ле­ние тех­ни­че­ски­ми си­сте­ма­ми, на­при­мер, от­дель­ны­ми еди­ни­ца­ми транс­пор­та? – Ну, камон… Зачем делать умную и слож­ную си­сте­му, чтобы по­ру­чать ей то, с чем справ­ля­ет­ся и лошадь? Там хватит и при­ми­тив­но­го ал­го­рит­ма на про­цес­со­ре по 10 баксов за ведро, про­бле­ма с управ­ле­ни­ем транс­пор­том лишь в по­лу­че­нии данных и в эти­че­ских во­про­сах. Тогда что? По­ду­май­те секунд пят­на­дцать.

Настоящее дело для искусственного интеллекта – это управление людьми

На мой взгляд, есть только одно на­сто­я­щее дело для искина – это управ­ле­ние людьми. Точнее, про­цес­са­ми, в ко­то­рых люди яв­ля­ют­ся частью. На мень­шее раз­ме­ни­вать­ся нет смысла по ряду причин. Всякий че­ло­век готов к управ­ле­нию людьми безо всякой спе­ци­аль­ной под­го­тов­ки. На­при­мер, мы вполне до­ве­ря­ем вся­ко­му управ­ле­ние соб­ствен­ны­ми детьми. Также прак­ти­че­ски каждый в кол­лек­ти­вах имел хоть какой-то опыт управ­ле­ния. Хоть на уровне «еще одну лопату кидай в но­сил­ки, и по­не­сем». Если всякий че­ло­век управ­лять людьми в прин­ци­пе спо­со­бен, то искин должен это уметь, иначе это ум­ствен­но непол­но­цен­ный ин­тел­лект.

Однако же, ре­зуль­та­ты управ­ле­ния людей от идеала сильно далеки. Любое ре­аль­ное управ­ле­ние – это череда ошибок и неточ­но­стей. Причем, от уровня управ­лен­ца ко­ли­че­ство ошибок почти не за­ви­сит, это некая по­сто­ян­ная ве­ли­чи­на. Просто бри­га­дир груз­чи­ков делает ма­ло­зна­чи­тель­ные ошибки, а гу­бер­на­то­ру дано право со­вер­шать ошибки, вле­ку­щие тя­же­лые по­след­ствия. Мы это по­ни­ма­ем. «Надо было делать не так» – это ос­нов­ной ре­зуль­тат ре­флек­сии окру­жа­ю­ще­го мира, самих себя в том числе.

И вот, в наших руках искин, ко­то­рый пред­по­ло­жи­тель­но будет «делать так». И мы его немед­лен­но при­ме­ним, ведь про­бле­ма, ко­то­рую он тео­ре­ти­че­ски может решить яв­ля­ет­ся самой глав­ной. А водить гру­зо­вик умеет и джам­шут с тремя клас­са­ми об­ра­зо­ва­ния.

Если в этом вы со мной со­глас­ны, то да­вай­те дальше пред­став­лять функ­ци­о­нал искина, пред­на­зна­чен­но­го управ­лять. Чьи функ­ции он должен ис­пол­нять, кого за­ме­нить или хотя бы уси­лить своими ре­ше­ни­я­ми?

По­нят­но, что это будут чи­нов­ни­ки (как в го­су­прав­ле­нии, так и в биз­не­се). Чи­нов­ни­ки при­ни­ма­ют ре­ше­ния. Чи­нов­ни­ки при­ни­ма­ют на всех уров­нях ком­пе­тен­ции. Чи­нов­ни­ки важны и нужны се­год­ня, ведь ре­ше­ния сами себя не примут. Но есть один момент.

По­смот­рим на вся­ко­го управ­лен­ца (то есть, вся­ко­го чи­нов­ни­ка) со сто­ро­ны бук­валь­но­го со­дер­жа­ния его прак­ти­че­ской де­я­тель­но­сти. Но не в смысле его мо­ти­ва­ций – у искина мо­ти­ва­ций как бы быть не должно. Чи­нов­ник либо одоб­ря­ет тран­зак­ции, либо от­ме­ня­ет тран­зак­ции, одоб­рен­ные другим чи­нов­ни­ком.

В иде­аль­ном ап­па­ра­те все тран­зак­ции должны одоб­рять­ся без­услов­но и ни­ка­кие тран­зак­ции не могут быть от­ме­не­ны, ибо ранее были за­кон­ным об­ра­зом одоб­ре­ны. Важный фактор в данной си­сте­ме – это то, что тран­зак­ции по­сту­па­ют на рас­смот­ре­ние чи­нов­ни­ку из «чер­но­го ящика». Ему не дается объ­яс­не­ний, почему именно такая тран­зак­ция должна быть осу­ществ­ле­на или почему она была одоб­ре­на иным чи­нов­ни­ком. Си­сте­ма управ­ле­ния вы­стро­е­на так. Сверху по­сту­па­ет приказ в виде пред­пи­са­ния осу­ще­ствить ряд тран­зак­ций.

За­меть­те, идео­ло­ги­че­ское по­стро­е­ние такой си­сте­мы вообще не пред­по­ла­га­ет воз­мож­но­сти от­ме­нить (не одоб­рить) тран­зак­цию, по­сту­пив­шую сверху, из «чер­но­го ящика». Но на прак­ти­ке такая воз­мож­ность всегда су­ще­ству­ет. И именно она обес­пе­чи­ва­ет две важ­ней­ших вещи: власть вся­ко­го чи­нов­ни­ка и сдер­жи­ва­ние такой власти.

Поясню, всякая ошибка (выше мы го­во­ри­ли, что они неиз­беж­ны и по­сто­ян­ны) может быть рас­тво­ре­на в про­ти­во­дей­ствии ни­же­ле­жа­щей чи­нов­ной массы, тогда по­след­ствия ошибки могут быть ми­ни­ми­зи­ро­ва­ны.

Однако, в тео­ре­ти­че­ской иде­аль­ной си­сте­ме управ­ле­ния ошибок быть не должно, по этой при­чине роль чи­нов­ни­ка сво­дит­ся к фор­маль­но­му одоб­ре­нию тран­зак­ций, ко­то­рые он не может не одоб­рить, ибо они пра­виль­ны. То есть, в нем нет ни­ка­кой необ­хо­ди­мо­сти. Итак, вопрос сво­дит­ся к пер­во­на­чаль­но­му управ­лен­че­ско­му сиг­на­лу. Если он верный, то во всех ни­же­ле­жа­щих уров­нях нет смысла.

Так, по идее, должен ра­бо­тать кон­со­ли­ди­ро­ван­ный бюджет го­су­дар­ства. Когда он принят, то это озна­ча­ет, что вся его фрак­таль­ная сущ­ность явлена. Всякий ка­пил­ляр должен по­лу­чить на­зна­чен­ную порцию крови, а в ответ – преду­смот­рен­ный ре­зуль­тат. Да, в самом низу воз­ни­ка­ют «а нам бетон во­вре­мя не за­вез­ли, и по­это­му…» Но поз­воль­те, это ведь в самом низу, а ап­па­рат управ­ле­ния со­сто­ит из мно­же­ства уров­ней, ко­то­рые не ка­са­ют­ся твар­но­го бетона со­вер­шен­но, они опе­ри­ру­ют тран­зак­ци­я­ми. Я по­ни­маю, что на сред­них уров­нях «не за­вез­ли бетон» вы­гля­дит иначе, типа «вице-пре­зи­дент стро­и­тель­ства кос­мо­дро­ма украл 100 мил­ли­о­нов, и по­это­му…» Я про иде­аль­ную схему тут.

Вер­нем­ся к нашему иде­аль­но­му искину. Он ведь в этой задаче должен решать те же самые во­про­сы – одоб­ре­ние или за­пре­ще­ние тран­зак­ций. И он такое сможет! Только вот он один сумеет за­ме­нить сразу все уровни управ­ле­ния. Ведь если он, за­ме­няя ми­ни­стра, одоб­ря­ет боль­шую тран­зак­цию ми­ни­стер­ско­го уровня, то это его ре­ше­ние сле­ду­ет при­знать пра­виль­ным. А оно вклю­ча­ет в себя анализ всего даль­ней­ше­го рас­пре­де­ле­ния боль­шой тран­зак­ции вплоть до оплаты ИП Пуп­ки­ну ре­мон­та крыль­ца псих­боль­ни­цы в Ки­неш­ме.

Настоящее дело для искусственного интеллекта – это управление людьми

Так и всю це­поч­ку чи­нов­ни­ков, обя­зан­ных одоб­рить тран­зак­ции более низких уров­ней, сле­ду­ю­щих из первой, можно смело за­ме­нять на этот же ал­го­ритм искин. Вопрос уже решен, вплоть до самого низа. Наш искин даже не надо при­ме­нять для замены всей це­поч­ки, искин просто от­ме­ня­ет необ­хо­ди­мость в ней. Его ре­ше­ние ис­тин­но, ибо оно верно. И оно сразу вклю­ча­ет в себя ре­ше­ния по всему фрак­та­лу.

Ре­мар­ка. Всякий ни­же­сто­я­щий чи­нов­ник в нашем ре­аль­ном мире может ока­зать­ся по­ум­нее вы­ше­сто­я­ще­го. Тогда он будет са­бо­ти­ро­вать ре­ше­ния на­чаль­ни­ка, а потом под­си­дит его. Это всегда так и про­ис­хо­дит. Все име­ю­щи­е­ся чи­нов­ни­ки за­ни­ма­ют места своих бывших на­чаль­ни­ков, кроме стар­то­во­го уровня. Но в данном случае кон­ку­рен­ция ис­клю­че­на. Один искин решает всё по всей це­поч­ке сам, сам себе он про­ти­во­ре­чить не может.

Более того. В нашей си­сте­ме управ­ле­ния су­ще­ству­ют суды, ко­то­рым мы дали власть от­ме­нять любые наши тран­зак­ции и осу­ществ­лять свои, без­от­но­си­тель­но нашего мнения о них. (По­са­дить убийцу в тюрьму – это тоже тран­зак­ция, преду­смот­рен­ная пра­ви­ла­ми. Судья тут – чи­нов­ник, одоб­ря­ю­щий или от­ме­ня­ю­щий тран­зак­цию, ко­то­рая по­сту­па­ет к нему пред­пи­сан­ной из «чер­но­го ящика».) Если наш искин хорош, то он лучше чи­нов­ни­ков, ведь мы до­ве­ри­ли ему одоб­ре­ние или отмену тран­зак­ций за них (за нас). Так он тогда и лучше судей. Иначе вы­хо­дит, что ре­ше­ния искина могут быть оспо­ре­ны и от­ме­не­ны людьми. И если люди это при­ни­ма­ют, то они при­зна­ют тем то, что искин хуже людей. Тогда на каком ос­но­ва­нии он за­ме­ня­ет чи­нов­ни­ков?

Вывод. Искин будет и непод­су­ден. Еще раз. Если вы, люди, на­пи­са­ли лучший свой ал­го­ритм, при­зна­ли его столь хо­ро­шим, что дали ему власть над собой, то вы не смо­же­те на­пи­сать ал­го­ритм еще лучше, чтобы он судил ре­ше­ния пер­во­го. Вы самый лучший свой ал­го­ритм по­ста­ви­те и управ­лен­цем, и судьей. Точнее, судьи просто от­па­дут. Вам при­дет­ся дать этому искину полную власть над собой.

Кстати, пер­во­на­чаль­ный черный ящик, откуда к искину по­сту­па­ют ис­ход­ные данные для управ­ле­ния, тоже может быть циф­ро­ви­зо­ван. И даже обязан быть циф­ро­ви­зо­ван. Кон­со­ли­ди­ро­ван­ный бюджет должен со­став­лять самый лучший искин. И ис­пол­нять его тоже он.

Еще момент. А может, по­ста­вить над ис­ки­ном че­ло­ве­ка, ко­то­рый бы кон­тро­ли­ро­вал его ре­ше­ния, чтобы не слу­чи­лось тех ошибок, ко­то­рые могут про­изой­ти из-за его нече­ло­веч­но­сти, на­при­мер? – Тогда все чи­нов­ни­ки со­хра­нят свои места и свою власть. Им же будет дано право от­ме­нять одоб­рен­ные ис­ки­ном тран­зак­ции или одоб­рять от­ме­нен­ные им. Увы, это не вы­гля­дит ре­аль­ным. Искин предо­ста­вит рас­пе­чат­ку обос­но­ва­ния своего ре­ше­ния. А че­ло­век не сумеет опро­верг­нуть фор­маль­ную логику своими ощу­ще­ни­я­ми или ин­те­ре­са­ми. Даже в этом случае, если к каж­до­му про­яв­ле­нию (на самом деле еди­но­го) искина при­ста­вить по живому чи­нов­ни­ку, они не смогут ему про­ти­во­сто­ять.

Про­сти­те за сумбур, мыслей много, а длина текста непо­пра­ви­мо растет.

Когда искин вклю­чат, то про­изой­дет полный кол­лапс. Не, я по­ни­маю, что сна­ча­ла его по­го­ня­ют в те­сто­вом режиме. Но это будет про­фа­на­ци­ей, ведь тогда надо будет эму­ли­ро­вать всё об­ще­ство, со всеми его свя­зя­ми це­ли­ком, не упро­щен­ную модель, а вот это циф­ро­мо­ло­тил­ки не умеют.

Потом его за­пу­стят в огра­ни­чен­ном режиме, в услов­ном Перм­ском крае. Баги, де­баг­гинг, новый релиз и в про­дакшн?

Но рано или поздно крас­ную лен­точ­ку раз­ре­жут и вклю­чат управ­ле­ние машины людьми на полную мощь (держа руку на ру­биль­ни­ке).

 

Настоящее дело для искусственного интеллекта – это управление людьми

И знаете, что про­изой­дет? Искин пре­кра­тит все тран­зак­ции вообще. Логика «если-то» столк­нет­ся с мил­ли­о­на­ми ре­гу­ля­тор­ных норм в ак­ту­аль­ном за­ко­но­да­тель­стве, ко­то­рые про­ти­во­ре­чат друг другу де­сят­ки тысяч раз. Финита. У нас поезда оста­но­вят­ся, платеж за банку сайры в су­пер­мар­ке­те не прой­дет. Все немед­лен­но будут об­ви­не­ны в куче пра­во­на­ру­ше­ний и пре­ступ­ле­ний, ко­то­рые могли бы быть на­прав­ле­ны в органы, но все люди в ор­га­нах будут под­ле­жать немед­лен­но­му уволь­не­нию и суду. Ре­ше­ния суда искин выдаст тут же. Биг дата, про вас за­пи­са­но всё. Ладно, это мелочи. Но вот пе­ре­ве­сти зар­пла­ту вам тоже не смогут, ведь кон­то­ра за­дол­жа­ла на­ло­гов, да и на вас штра­фов вагон.

Пре­уве­ли­чи­ваю? Неа. Первый запуск (с рукой на ру­биль­ни­ке) будет под­кон­троль­ным, ис­пы­та­ние два, ис­пы­та­ние два­дцать два… И од­на­ж­ды его вклю­чат на полную, как про­шед­ше­го полный цикл тестов. И вот тогда… А чи­нов­ни­ков мы уже уволим, спа­сать си­ту­а­цию будут доб­ро­воль­цы.

Можно ли из­бе­жать таких пе­чаль­ных по­след­ствий? – Без­услов­но, по­пы­тать­ся можно. Для этого сле­ду­ет сде­лать ряд вещей. Уни­что­жить 99% за­ко­но­да­тель­ства, пе­ре­ра­бо­тав осталь­ной 1%, не вылив ре­бен­ка с водой. (Такие штуки обычно уда­ет­ся сде­лать после пол­но­цен­ной ре­во­лю­ции с пол­но­цен­ной граж­дан­ской войной. Как это сде­лать в мирное время – я не пред­став­ляю.) Кроме того, сле­ду­ет пе­ре­ра­бо­тать мораль. В плане того, что украсть из офиса пачку бумаги (или из­ме­нить жене) – либо вполне до­пу­сти­мо (от­ра­зив в законе), либо вполне влечет за собой срок. Эту мораль надо пе­ре­де­лать в го­ло­вах об­ще­ства. Иначе оно начнет об­ре­зать оп­ти­че­ские кабели, что дешево, просто и эф­фек­тив­но против искина. Еще ва­ри­ант – под­ки­нуть этот искин ве­ро­ят­но­му парт­не­ру, пусть он сам себе руки режет. И, ко­неч­но, верхи должны не стать неспоб­ны­ми. Ежели они неспо­соб­ны, то они это при­ме­нят в ка­че­стве по­след­не­го шанса.

Я не пы­та­юсь вас убе­дить в том, что нужно раз­би­вать ком­пью­те­ры. Мы никуда не уйдем от искина. Он нас на­стиг­нет, нам при­дет­ся всту­пить с ним бой. Да­вай­те, по­про­бу­ем осмыс­лить, с чем (с кем) нам в бой пред­сто­ит всту­пить нашей судь­бой.

Источник

 

 

Цифровизация или автоматизация? Революция или модернизация старого под упаковкой нового?

 

Геостратег: Кризис "Цифровизация с человеческим лицом". Итоги.

 

 

Более подробную и разнообразную информацию о событиях, происходящих в России, на Украине и в других странах нашей прекрасной планеты, можно получить на Интернет-Конференциях, постоянно проводящихся на сайте «Ключи познания». Все Конференции – открытые и совершенно безплатные. Приглашаем всех просыпающихся и интересующихся…

 

 

Поделиться:
Всевластие | Интеллект | Искусственный интеллект | Компьютер | Управление сознанием | Борьба | Власть паразитов | Противостояние | Реальность | Что делать

Ещё Новости по этой теме

Рекомендуем также почитать

Несколько случайных новостей

Видео новости




 

 
Николай Левашов
 


Геноцид Русов

 



RSS

Архив

Аудио

Видео

Друзья

Открытки

Плакаты

Буклеты

Рассылка

Форум

Фото

Видео-энциклопедия по материалам Николая Левашова