Розмова з машиною: міфи і реалії мовного управління

Почуев Сергій Іванович, д.т.н., професор.

На науково-популярному рівні викладені деякі нові техніко-ергономічні психологічні принципи і підходи до створення і використання природно мовного інтерфейсу "Людина-машина" для управління складними технічними системами.

Вступ

З моменту появи перших "інтелектуальних" машин (під "інтелектуальної" машиною далі розуміється об'єкт штучного походження, здатний сприймати і раціонально використовувати інформацію, передану їй у будь-який формі людиною, для виконання певних цільових дій) люди прагнуть до максимальній зручності управління ними. Це прагнення знаходить своє вираження як в конкретних технічних розробках, так і в неусвідомлених і усвідомлених мріях людей про тих, хто думає, які розуміють людини і говорили з ним помічників, мають штучну природу. За прикладами далеко ходити не треба. Досить згадати Алі-Бабу, дистанційно управляв дверима печери зі скарбами з допомогою сакраментальною мовної команди "Сезам відчинись!", героїв численних науково-фантастичних романів або навіть пушкінську царицю, періодично консультується з диво дзеркальцем з приводу власної зовнішності. В останньому випадку ми, мабуть, маємо справу з геніально передбачити прообразом системи глобального моніторингу жінок, поєднаної з експертною системою визначення рівня їхньої краси і оснащеної природно мовним інтерфейсом ....

В даний час спроби створення подібного інтелектуального мовного інтерфейсу "людина-машина" все більше переміщуються з світу казок в реальну життя, а відповідні системи прагнуть зайняти своє місце під сонцем у кабінах літаків, рубках кораблів, трубках мобільних телефонів, "мізках" роботів і тощо

Разом з тим обсяг використання природно-мовних технологій в практиці управління складними технічними системами до цього часу досить невеликий, незважаючи на очевидну привабливість такого способу спілкування з "інтелектуальної" машиною.

Більше того, всі ми є свідками того, що різноманітні, постійно удосконалювані електронні прилади як побутові, так і використовуються в різної професійної діяльності людей, продовжують "обростати" все новими багатофункціональними кнопками, значення яких не в змозі швидко запам'ятати і ефективно використовувати, особливо в умовах можливого дефіциту часу, ні одна нормальна людина. В результаті, зростаючі функціональні можливості техніки часто виявляються нереалізованими, а освоєння нових електронних пристроїв людиною-оператором перетворюється на болісний процес запам'ятовування багатотомних інструкцій і повчань!

Що треба зробити для того, щоб люди могли і хотіли розмовляти з машинами, а машини відповідали їм взаємністю?

Відповідаючи на це непросте питання, сучасні вчені часто сподіваються на важко переборні технічні складності надійного розпізнавання природної злитий людської мови та її смислової інтерпретації машиною. З даними твердженнями багато в чому слід погодитися. Це, перш за все, стосується істотних обмежень створених до теперішнього часу алгоритмів штучного інтелекту, програм розпізнавання злитий мови і, в ряді випадків, недостатніх реальних можливостей апаратної частини сучасних комп'ютерів.

Однак, коли ми маємо справу з управлінням складної технічної системою і не вимагаємо від неї породження нових знань або оперативного освоєння (розуміння) нових команд, ситуація спрощується. У даному випадку нам потрібен не мудрий думаючий співрозмовник, а тямущий і доброзичливий виконавець нашої волі, який при вирішенні тієї чи іншої функціональної завдання без шкоди для кінцевого успіху може бути обмежений у своїх словах і діях.

Як тут не згадати наших чотириногих улюбленців, яких ми звикли вважати розумними, якщо вони знають десяток команд і даремно не гавкають ... Автор далекий від думки проводити буквальне порівняння, щоб не образити ні собак, ні машини. Кожні по-своєму гарні! Разом з тим, абсолютна більшість сучасних технічних систем будуватися саме так, щоб на нескінченне число ситуацій зовнішнього світу реагувати великим, але кінцевим кількістю дій. Це, в першу чергу, стосується т.зв. разових команд, що визначають режими роботи того чи іншого технічного пристрою. Згадайте важіль покажчика повороту на Вашому автомобілі, кнопку "START" на відеокамері і т.п. Перебуваючи в будь-якій точці земної кулі і, будучи дисциплінованим водієм, Ви будите діяти однаково, вказуючи поворот. Ваші стандартні маніпуляції з відеокамерою для початку зйомки також ніяк не залежать від обраного сюжету, а визначаються її конструкцією.

Таким чином, навіть працюючи з фіксованим словником мовних команд, можна добиватися досить вражаючих результатів з точки зору підвищення комфортності і оперативності керування різними технічними пристроями і системами, в повною мірою насолоджуючись ілюзією їх інтелектуальності.

Даний висновок не претендує на новизну, тому що ще років 30 тому, а може бути і більше, фахівці пророкували блискуче майбутнє подібних систем. Але, повторюся, пророкування не виправдалися, незважаючи на значні успіхи в області підвищення надійності розпізнавання мовлення, особливо команд з обмеженого набору.

Міфи про мовному управлінні так і не стали широкої повсякденною практикою! Чому?

В якості головних причин такого явища зазвичай називають:

-істотну залежність надійності розпізнавання від індивідуальних особливостей диктора (наприклад, він шепеляв і зовсім не той, хто раніше навчав машину);

-підпорядкованість результатів розпізнавання поточного психофізіологічного стану людини (наприклад, оператор "з великого бодуна", застуджений або сильно наляканий наближенням до Землі чергового астероїда);

-сильне вплив акустичних перешкод, присутніх у ситуаціях реального життя (наприклад, я кажу, а поруч стогне мотор старих "Жигулів ").

-наявність користувальницького стереотипу управління (наприклад, аргументи оператора типу: "Мене так вчили, мені так зручніше, я двадцять років успішно натискаю на кнопки і не збираюся вимовляти Ваші безглузді команди !").

Ризикну припустити, що справа тут не тільки, а може бути і не стільки в цих причини (остання причина, до речі, радше не причина, а наслідок низького рівня ергономічності нечисленних реально існуючих систем мовного управління).

Організація мовного діалогу з машиною це не тільки боротьба за високу надійність розпізнавання людської мови в різноманітних умовах, але і надання самому процесу спілкування якоїсь осмисленості, зручності, взаємності, довіри і свого роду психологічної сумісності з боку людини!

Але цій стороні проблеми мовного управління, як мені здається, в даний час вченими та конструкторами не приділяється належної уваги. Тому, абстрагуючись в подальшому від згаданих раніше "чисто розпізнавальних" аспектів мовного управління, зосередимося на деяких нових техніко-ергономічних і психологічних принципах і підходах, використання яких може дозволити прискорити процес впровадження "мовних" технологій в технічну практику.

Щоб надмірно не "грузити" читача, також залишимо осторонь і важливу суміжну проблему синтезу та використання мовних інформаційних повідомлень, що генеруються машиною, незалежно від мовних команд людини. Добре, що дана проблема більш вивчена і приємні жіночі голоси, що повідомляють людині-оператору погані новини, вже досить давно звучать в навушниках пілотів літаків і салонах "Крутих" автомобілів.

Отже, будемо вважати, що ми маємо справу з деякою складної технічної системою, управління якою здійснюється в реальному масштабі часу з використанням фіксованого набору разових (дискретних) мовних команд. Далі мова піде саме про такі команди, тому що людині здійснювати безперервне управління технічної системою, як правило, зручніше за допомогою рук, ніг та органів управління, на яких знаходяться ці і, як знати, можливо, і інші частини тіла.

За думку автора, при побудові ефективної і доброзичливій системи мовного спілкування необхідно пам'ятати і правильно використовувати наступне.

Мовний канал не повинен бути єдино можливим для вирішення будь-якої з функціональних завдань, що покладаються на керовану технічну систему і повинен використовуватися тільки тоді, коли це справді зручно людині, наприклад при дефіциті часу або великій кількості рутинних тактильних (ручних) операцій.

Словник машини має створюватися і модифікуватися на стадіях проектування і модернізації технічної системи, але не в процесі управління нею, виходячи з конструктивно закладену в системі логіки роботи і реально наявних органів управління та візуальної індикації.

Машина повинна бути толерантна до умов розпізнавання, таким як: диктор, його психофізіологічний стан, зовнішні шуми.

В загальному випадку не всі апріорно відомі (що містяться в словнику) машині команди будуть доступні для виконання у довільно вибраний момент процесу управління. Машина в будь-який момент процесу управління повинна бути здатна самостійно без участі людини ідентифікувати підмножина доступних команд на безлічі апріорно відомих, яким її заздалегідь вивчили.

Машина повинна "інтелектуально" або, принаймні, "людиноподібних", реагувати на результати розпізнавання команд своїми відповідними словами і діями. Для цього вона повинна мати можливість самостійно контролювати надійність розпізнавання кожної мовної команди і раціонально використовувати цю інформацію, наприклад, для того, щоб перепитати людини в сумнівних випадках або попередити його про можливу помилку.

Необхідно забезпечити можливість апріорної та оперативної (як мінімум) або адаптивної (як максимум) налаштування мовного інтерфейсу під конкретного користувача.

В першому випадку до початку або в процесі управління людина сама вказує машині те, як вона повинна вести себе в процесі спілкування з ним, наприклад, бути мовчазним виконавцем команд, активним полемістом або бюрократом, який в відповідь на кожну команду запитує підтвердження на її виконання.

Під другому випадку машина сама повинна підлаштовуватися під людину, аналізуючи його психофізіологічний стан і рівень професійної підготовки.

Людина легко прощає собі власні помилки управління, але не схильний прощати аналогічні помилки машині, як втім і іншим людям ... Втрата довіри людини до мовного каналу керування внаслідок частих помилок машини або її в принципі правильного, але незручного для людини поведінки, на практиці призводить до відмови від використання даного каналу. Тому необхідна високо надійна і проста процедура сертифікації людиною реалізовуються за допомогою мовного каналу управлінських рішень.

Людина може забути відому і вимовити невідому (не міститься в словнику) команду;

Людина може забути логіку роботи керованої ним технічної системи і вимовити недоступну для виконання в даний момент часу, але апріорно відому для машини команду;

Людина не завжди раціональний і, тим більше, не завжди оптимальний у своїх рішеннях (вимовних мовних команди). У необхідних випадках бажана можливість автоматичного формування машиною підказки для людини, про те які команди в поточний момент часу є доступними, а які з доступних команд раціональними для ситуації, що склалася управління складної технічної системою. У той же час, машина не повинна мати можливість блокувати волевиявлення людини, виражене за допомогою доступною, але не раціональної на її думку, речовий команди.

Машина може приймати різні правильні рішення з розпізнавання. Число можливих варіантів при раніше прийняте допущення про фіксований набір мовних команд звичайно:

"людиною виголошена невідома команда -> невідома команда правильно розпізнає машиною ";

" людиною виголошена відома доступна команда -> відома доступна команда правильно розпізнає машиною ";

" людиною виголошена невідома недоступна команда -> невідома недоступна команда правильно розпізнає машиною ".

Машина з власної вини або з вини оператора може допускати помилки розпізнавання 6-ти типів. Число варіантів також звичайно.

"Невідома команда -> відома недоступна команда "- (оператор помилився, машина не змогла розпізнати помилку);

"Невідома команда -> відома доступна команда "- (оператор помилився, машина не змогла розпізнати помилку);

"Відома доступна команда ---> невідома команда "(помилилася машина);

"Відома недоступна команда -> невідома команда "- (оператор помилився, машина не змогла розпізнати помилку);

"Відома доступна команда -> відома недоступна команда "(помилилася машина);

"Відома доступна команда -> відома доступна команда розпізнана неправильно " (помилилася машина).

Пояснимо викладені положення і визначимо можливі напрямки їх практичного обліку та застосування.

Поділ відомих команд на доступні і недоступні має здійснюватися, виходячи з наявного кінцевого безлічі режимів роботи керованої технічної системи, які, як правило, закладаються вже на етапі її створення. (Мова йде про використання раніше згаданого принципу кінцевого числа реакцій машини на нескінченну безліч ситуацій зовнішнього світу.)

Для простоти сприйняття читачем, режим в даному випадку, якщо завгодно, - це сукупність натиснутих кнопок управління, а доступна відома команда це чергова кнопка (один з декількох можливих), яка може бути "натиснута голосом "оператора.

Наприклад, на багатьох моделях автомобілів не можна включити "мигалку" покажчика повороту при вийнятому ключ запалення, але в тій же ситуації можна подати звуковий сигнал. У даному ілюстративної прикладі "вийнятий ключ запалювання" - це режим, "мигалка" -- це недоступна відома команда, "гудок" - це доступна відома команда для даного режиму.

В найбільш загальному випадку режим - це не тільки сукупність натиснутих кнопок управління, але і сукупність значущих для процесу управління подій, настання яких машина здатна самостійно ідентифікувати без участі людини.

Наприклад, нехай оглядова система криголама "Титанік-II" здатна самостійно фіксувати факти виявлення з'являються в зоні огляду айсбергів, нумерувати їх і переходити до безперервного супроводу найбільш небезпечних при отриманні команди від капітана судна. У даному прикладі наступ значущої події -- "Виявлення айсберга" без безпосередньої участі людини ініціює можливість використання нового режиму - "супровід айсберга". Для даного режиму характерна відома машині, але раніше недоступна для виконання (айсбергів раніше просто не було видно!) мовна команда капітана - "стеж за найбільш небезпечним айсбергом № 3 ".

Необхідно відзначити, що апріорне поділ відомих мовних команд на доступні і недоступні з використанням змісту поняття "режим" дозволяє скоротити безліч альтернатив і тим самим підвищити надійність розпізнавання. Альтернативи (доступні команди) порівнюються в рамках режимів, в яких вони здійсненні. Потім на "межрежімном" рівні порівнюються "альтернативи -- переможниці ". Результат розпізнавання - альтернатива переможниця для межрежімного рівня.

В умовах стресової навантаження або внаслідок слабкої підготовки (і таке, виявляється, трапляється, як пишуть в газетах!) оператор може вимовити невідому для системи команду, наприклад, вилаятися в серцях "по матушке". У даному випадку машина повинна самостійно, відповідно до використовуваних критеріями (наприклад, пороговими або іншими, залежно від використовуваного алгоритму розпізнавання) ідентифікувати команду як невідому. Щоб поведінка машини (вимовні їй у відповідь слова і виконувані дейнаслідком) виглядало доброзичливим і "інтелектуальним" можливі наступні основні (перелік можливих реакцій машини тут і далі обмежується лише рівнем природного інтелекту розробника "софту", розташовуються обчислювальними ресурсами і прагматичною доцільністю) варіанти її реакції:

промовчати і нічого не робити;

повідомити людині про можливу помилку і попросити повторити команду;

запропонувати допомогу, вимовляючи доступні в даному режимі команди.

Варіант реакції можна, наприклад, задати заздалегідь при проектуванні системи мовного управління в залежності від апріорної важливості того чи іншого режиму в процесі управління "інтелектуальної" машиною. Реалізація такого підходу, природно вимагає аналізу професійної діяльності оператора, обліку Циклограма його роботи в процесі управління технічною системою і детального знання режимів її роботи.

Більше складний, але й більш "інтелектуальний" варіант - оперативна оцінка психофізіологічного стану оператора та використання спеціалізованої експертної системи - помічника, що формує апостеріорного (de facto) підказку в реальному масштабі часу з урахуванням "людського фактора" і результатів спостережень за допомогою датчиків інформації за умов, що змінюються зовнішнього світу. Проектуючи подібну експертну систему, необхідно пам'ятати, що далеко не всі доступні мовні команди оптимальні або, принаймні, раціональні для конкретної ситуації управління. Більш того, виконання деяких з них при негативному розвитку подій, в принципі, може призвести до сумних або трагічним (пригадайте Чорнобиль!) наслідків.

Тут, проте, доречно зауваження з приводу неможливості блокування виконання машиною доступних мовних команд. Сучасний рівень розвитку систем штучного інтелекту і, зокрема, експертних систем в даний час такий, що поки не дозволяє ефективно вирішувати гуманітарні проблеми і проблеми, пов'язані з породженням нових знань безпосередньо в процесі управління складною технічної системи. Наприклад, сьогодні машину складно навчити знаходити різницю між втратою інстинкту самозбереження і усвідомленим самопожертвою в діях пілота бойового літака, або відміну від непрофесіоналізму нетривіального (не міститься в інструкції для даної ситуації), але рятівного для сотень людей управлінського рішення оператора великої залізничного вузла.

Тому видається, що система мовного управління правильно і надійно інтерпретує волю людини шляхом виконання доступних мовних команд і в необхідних випадках формує для нього "розумні" підказки може вважатися цілком "інтелектуальної". При цьому відповідальність за наслідки нераціональну діяльність дилетанта за важелями управління або перед "вухами" системи мовного управління повинен нести він сам або люди, які його туди допустили, а ніяк не конструктор "інтелектуальної машини" ...

В випадку, коли Незрозумілий команда ідентифікується як відома доступна, можливі наступні основні варіанти реакції машини:

виконати команду;

виконати команду та інформувати оператора голосом, або якось інакше, про її виконання;

запитати підтвердження команди в оператора і не виконувати команду до отримання підтвердження;

проінформувати оператора про нераціональність його дій, можливих негативних їх наслідки та оптимальної з точки зору машини команді.

В цьому місці необхідно зробити невеликий, але важливе, "ліричний відступ", що стосується вигляду інтерфейсу експертних систем, сполучених з командно-мовними системами. Потрібно пам'ятати, що людина "влаштований" так, що виступати зі своїми альтернативними радами і міркуваннями машина повинна вкрай обережно. Працювати з "машиною-занудою", особливо коли в тебе поганий настрій, "запахло смаженим "і немає часу на роздуми, або коли є власна і, звичайно ж, єдино правильну думку не схильний ні один хомо сапієнс. Згадайте, як надходила пушкінська цариця зі своїм чудо дзеркальцем у проблемних випадках. Згадали? Правильно! У першому сунула під лаву, а в другій - розбила об підлогу ...

Окремої розгляду заслуговує згаданий варіант діалогового підтвердження команди. Машина і людина, знаючи про те, що вони обопільно на 100% не застраховані від помилок (див. наведені вище можливі типи помилок), повинні мати "супернадійними" спільну процедуру сертифікації прийняття рішення на виконання мовної команди.

В основу такої процедури може бути покладений принцип розподілу команд по тривалості. Наприклад, людина у відповідь на розпізнану і виголошену машиною команду може відповісти коротке "Так" або вимовити довге "Відставити" (або, можливо, щось інше довге і грубе) у разі своєї незгоди. Подібний гранично простий принцип розпізнавання з використанням тільки 2-х можливих добре помітних команд представляється найбільш надійним на відміну від використання будь-яких інших відомих принципів, які передбачають застосування "Крутих" математичних методів типу формантного аналізу або нейрокомпьютерних технологій.

Після отримання підтвердження або відмови від виконання команди можливі наступні основні варіанти реакції машини:

На команду людини - "Так":

виконати розпізнану і "озвучену" команду;

виконати розпізнану і "озвучену" команду та інформувати оператора голосом про її виконання.

На команду людини - "Відставити":

НЕ виконувати розпізнану і "озвучену" команду;

НЕ виконувати і "озвучену" команду і повідомити про це операторові.

До речі, реалізуючи дану процедуру, зовсім не зайвим буде заздалегідь "домовитися" з машиною про те, як вона буде інтерпретувати мовчання господаря:

мовчить - Виконати команду;

мовчить - Не виконувати команду;

мовчить - У господаря відмовили мізки або пропав голос, запрошу ще раз, а там видно буде ...

Особливий інтерес представляє випадок, коли Незрозумілий команда ідентифікується як відома недоступна. У даному випадку настає "пікантна" ситуація, пов'язана з помилкою оператора, з якихось причин забув режими і логіку роботи керованої ним технічної системи.

Можливі наступні основні варіанти реакції машини:

промовчати і нічого не робити;

повідомити оператору про неможливість виконання команди;

повідомити оператору про неможливість виконання команди та поінформувати його про причини цього;

повідомити оператору про неможливість виконання команди, причини цього і запропонувати список доступних команд або найбільш раціональну, на думку машини, команду.

Розглянемо ще один безумовно важливий з ергономічної та психологічної точок зору питання, пов'язане з процесом ініціації роботи системи мовного управління. Чи повинна вона працювати постійно, поки здійснюється управління технічної системою або включатися вручну на час введення команди?

На перший погляд більш зручний перший варіант, що не вимагає жодних додаткових тактильних дій з боку оператора, тому що нічого не потрібно натискати або перемикати. Проте не все так просто і для людини і для машини.

Люди в процесі управління мають звичку розмовляти не тільки з машиною, а й зі своїми колегами. Деякі взагалі розмовляють самі з собою (є й такі!) або співають пісню "Вечірній дзвін" як у фільмі "Небесний тихоход" ... Постійне усвідомлення того, що в цей час машина як відданий пес намагається вловити відому їй команду і може неправильно інтерпретувати не звернення до неї мови господаря, нервує людини-оператора і заважає йому нормально працювати. Чи не легше і машині, яка захлинається в потоці незнайомих слів і звуків. Як вже зазначалося раніше, сьогодні існують серйозні труднощі з забезпеченням прийнятною ймовірність розпізнавання злитий мови. Тому, на думку автора цієї статті, більш раціональним є другий варіант - використання єдиної кнопки введення, яку, наприклад, слід натискати перед початком введення будь-якої мовної команди і відпускати після її закінчення. Це, до речі, додатково дисциплінує оператора, змушуючи заздалегідь подумати над тим, що він на насправді хоче сказати машині.

Коли Ви все ж схильні зупинитися на першому варіанті як більш "просунутий", насмілюся рекомендувати використання певної попередньої унікальною добре розпізнається в різних умовах команди - звернення до машини. І після того, як Ваш вірний залізний Мухтар "пролает" у відповідь на звернення до нього про те, що він Вас вислухав, і чекає на команду, можете сміливо вимовляти виконавчу команду: "Фас!". Подальше виділення виконавчої команди з злитий мови може бути ефективно здійснено з тимчасового ознакою: зробіть невелику паузу до і після виконавчої команди (Твикс при цьому можна не їсти !).

Як показує аналіз відомих автору комерційних програм розпізнавання мовлення, перший варіант виявляється непоганим для студійних умов з використанням попередніх команд конкретного диктора комп'ютера типу: "Wake up!" і "Go to sleep! ", але в реальному житті не працездатний.

Висновок

Запропонований у статті підхід до створення систем мовного управління в частині психолого-ергономічних аспектів проектування інтерфейсу "людина - машина" для роботи на обмеженому наборі мовних команд був досить успішно апробовано автором при створенні комп'ютерних прототипів систем мовного управління загального призначення з використанням власного оригінального програмного забезпечення процедури розпізнавання, що в даній статті не розглядалася.

Стаття є оригінальною розробкою: при її написанні не використовувалися матеріали ніяких вітчизняних та закордонних організацій або приватних осіб.

Виклад матеріалу свідомо прибраний в науково-популярну форму, щоб не перевантажувати статтю "незрозумілими" формулами і посиланнями на "відповідні до" нагоди оглядові монографії, не "вихлюпнути дитину", а також не деталізувати до рівня можливості практичного використання наявні авторські know-how. Разом з тим, як мені здається, обсяг наведених у статті міркувань цілком достатній для того, щоб скласти загальне уявлення і враження про актуальність, новизни і практичної значущості пропонованих рішень, так само як і про омани та помилки автора.

Буду дуже вдячний, отримавши Ваші коментарі, критичні зауваження, поради, побажання і, можливо, пропозиції про подальшу спільну роботу. Будь ласка, якщо можна, критикуйте і радьте не за формою викладу матеріалу, а по суті обговорюваної проблеми!

Вельми цікаві для автора думки психологів, фахівців в області ергономіки і кінцевих користувачів, на практиці керуючих складними технічними системами (моряків, льотчиків, операторів систем УВС і АЕС, "телекоммунікаціоньщіков"), а також фахівців у галузі комп'ютерного розпізнавання мовлення, робототехніки та всіх інших хто "в темі":

Потрібні чи подібні системи для автомобілів, кораблів, літаків, у побуті і т.п.? Як Ви уявляєте їх використання?

Доводилося Чи Вам стикатися з елементами викладеного підходу, і як Ви його оцінюєте (гідності, слабкі місця)?

Доцільний чи форум або телеконференція з цієї проблематики?

Які питання в рамках даної проблематики Вас хвилюють?

Що варто почитати автору для ліквідації поточної безграмотності?

Список літератури

Для підготовки даної роботи були використані матеріали з сайту http://www.sciteclibrary.ru