Komputerowa animacja aktu mowy jako sposób wspomagania umiejętności czytania z ust

Transkrypt

1 Audiofonologia Tom IX 1996 Jolanta Zielińska Wyższa Szkoła Pedagogiczna im. Komisji Edukacji Narodowej Kraków Komputerowa animacja aktu mowy jako sposób wspomagania umiejętności czytania z ust Computerized Animation oc Speech as a Means oc Support in Lipreading Skills Streszczenie Komputerowa animacja aktu mowy, oznaczająca możliwość symulacji twarzy osoby mó wiącej z dokładnością pozwalającą na czytanie z ust, jest nowoczesną i efektywną metodą, wykorzystującą wspomagająco kompensacyjną rolę percepcji wzrokowej. Jest ona istotna, gdyż odczytywanie mowy z ust to często podstawowy sposób recepcji języka mówionego przez osoby z głębszą wadą słuchu. Synteza mowy na podstawie tekstu pisanego pozwala na opracowanie ćwiczeń wzorców dla ludzi z wadą słuchu. Ćwiczenia te mają na celu wzmocnienie wizualnej percepcji mowy oraz kształtowanie umiejętności czytania z ust i poprawnej motoryki oralnej. Summary The authors present the current state of computer software developments in the area of speech animation. Speech animation is achieved by synthetic face construction and lips motion animation. Great attention has be en drawn to rea(istic lip synchronization to make lip reading possible. Visual speech percepcion creates new means in lip reading training for deaf people. It is also a valuable tool for speech therapists. I. ROZWAŻANIA OGÓLNE Akt mowy wydaje się procesem prostym i łatwym, bo w sposób naturalny sprzęgniętym z codzienną egzystencją człowieka. Dopiero powstanie barier utrudniających lub wprost uniemożliwiających jego realizację, przykładowo

2 112 Jolanta Zielińska z powodu zaistnienia wady słuchu, powoduje zachwianie tej opinii. Analiza sygnału mowy, dokonana na gruncie osiągnięć nowoczesnej techntkt, potwierdza fakt doskonałości i złożoności mowy. Odpowiednie wykorzystante oraz interpretacja wyników tej analizy mogą przynieść znaczące zmiany w podejściu do rewalidacji dzieci z wadą słuchu.. Techniczne metody wizualizacji sygnału mowy możliwe do zastosowanta w rewalidacji dzieci z wadą słuchu można podzielić na tradycyjne [Tadeusiewicz 1988], oparte na reprezentacji sygnału mowy w formie czasowej, częstotliwościowej, czasowo-częstotliwościowej i parametrycznej oraz metody specjalistyczne, oparte na pewnych nowych koncepcjach. Do tej. ostatniej grupy metod należy komputerowa animacja aktu mowy I techntkt multimedialne. K o m p u t e r o w a a n i m a c j a a k t u m o w y Jest nowoczesną i efektywną metodą, wykorzystującą wspomagająco-kompensacyjną rolę percepcji wzrokowej i kształcącą umiejętność czytania z ust oraz prawidłową motorykę oralną dzieci z wadą słuchu [Waters, Levergood 1994]. Rozwiązania metodyczne dotyczące kształcenia językowego głuchych wykorzystują obecnie wszystkie możliwe sposoby komunikacji w ramach szeroko rozumianej k o m u n i k a c j i t O t a I n e j. Na komumkację totalną składają się: mowa ustna, system znaków migowych, czytame I ptsante, alfabet palcowy oraz wszelkie inne środki służące skutecznemu przekazywaniu informacji w procesie komunikowania się, w czym Istotną rolę odgrywa odczytywanie mowy z ust [Perier 1992]. Obserwacja mówienia innych osób jest bowiem naturalnym źródłem wzorców tej czynności dla dzieci. Podstawowe sposoby nauczania prawidłowej wymowy opierają SIę na: _ wrażeniach wzrokowych - poprzez demonstrację prawidłowego układu narządów artykulacyjnych w przypadku tzw. głosek optycznych; _ wrażeniach słuchowych - poprzez uświadamianie prawidłowego brzmienia głosek; _ wrażeniach czuciowych - poprzez wyczuwanie siły wydychanego powietrza na dłoni ustawionej przy ustach oraz drgań strun głosowych podczas artykulacji głosek dźwięcznych czy drgań skrzydełek nosa przy wymawianiu głosek nosowych.. W kształceniu językowym dzieci z wadą słuchu kompensacja wzrokowo -dotykowo-ruchowa zaistniałej wady słuchu umożliwia komunikację z dzieckiem i przekazanie mu, przesuniętych w czasie w stosunku do sygnału mowy, praktycznie pełnych o nim wiadomości. Podstawowy problem k o m p e n s a c j i w z rok o w o - d o t Y k o w o - r u c h o w e J polega Jednak na niezgodności zaistnienia tych procesów w czasie z aktem mowy.. Występuje ona bowiem po nim, a nie równocześnie, co znacząco zmntejsza siłę i możliwości jej oddziaływania. Odczytywanie mowy z ust, zwłaszcza przy głębszej wadzie słuchu, bywa jednym z podstawowych sposobów recepcji języka mówionego. WarunkIem Komputerowa animacja aktu mowy spostrzegania mowy jest konieczność ciągłego patrzenia na usta osoby mówiącej. Odczytywanie mowy z ust jest bardzo trudne, wyklucza możliwość wiązania odbieranych informacji z równoczesnym działaniem i wymaga [Rakowska 1992]: intensywnej aktywności wzroku, - koncentracji uwagi, - wysiłku myślowego związanego ze zrozumieniem znaczeń odbieranych wzrokiem, - stałej pozycji ciała. Istnieje ścisła korelacja pomiędzy sprawnością odczytywania mowy z ust a postępami w nauce szkolnej dziecka z wadą słuchu. Natomiast na zdolność do odczytywania mowy z ust nie ma wpływu ani ogólna inteligencja, ani tempo wypowiedzi. Funkcje wzrokowe odgrywają istotną rolę w kształtowaniu werbalnego i niewerbalnego zachowania osób z wadą słuchu. Jeden aspekt problemu to ewentualny rozwój sprawności kompensacyjnych w zakresie nie uszkodzonych zmysłów w sytuacji uszkodzenia jednego (lub więcej) układów zmysłowych. Drugi - to zastępowanie układu słuchowego przez układ wzrokowy w celu odbioru i zrozumienia mowy innych osób [Lowe 1990]. Należy jednak zaprzeczyć twierdzeniu, że istnieje naturalna, fizjologiczna kompensacja ze strony zdrowego układu zmysłowego przy uszkodzonym innym układzie (np. kompensacja zmysłem wzroku uszkodzonego zmysłu słuchu), powodująca dodatkowy, pozytywny rozwój "zastępczego" zmysłu. Fakt, iż u osób z wadą słuchu większą rolę aniżeli u słyszących pełnią zmysły wzroku, dotyku i wibracji, wynika z konieczności życiowej oraz intensywnego treningu [Grzegorzewska 1964]. Najbardziej efektywna wydaje się s t y m u I a c j a b i s e n s o r y c z n a rozpoznawania mowy słownej poprzez udział w tym procesie jednocześnie dwóch zmysłów, np. słuchu i wzroku. Słuch, chociaż nie funkcjonuje u osób z wadą słuchu prawidłowo, w połączeniu ze wzrokiem poprawia jakość percepcji mowy. Jeżeli bowiem percepcja mowy ustnej odbywa się za pomocą dwóch lub więcej zmysłów, to zarówno u osób z uszkodzonym słuchem, jak i u osób poprawnie słyszących jest ona pełniejsza i pozwala odebrać więcej informacji aniżeli przy udziale jednego tylko zmysłu. Rozwój nowoczesnej, mulimedialnej techniki komputerowej niesie w tym zakresie nowe możliwości, mogące znacząco zwiększyć efektywność działań rewalidacyjnych. Wykorzystanie komputerowej animacji aktu mowy, jako narzędzia wspomagającego umiejętność odczytywania mowy z ust przez osoby z wadą słuchu, może odegrać znaczącą rolę w ich kształceniu językowym, w tym w sferze utrudnionych przez uszkodzenie słuchu kontaktów społecznych, postrzegania informacji i porozumienia z ludźmi słyszącymi.

3 114 Jolanta Zielińska II. KOMPUTEROWA ANIMACJA AKTU MOWY W laboratorium firmy DEC w Cambridge USA przeprowadzono w 1993 r. badania dotyczące syntezy aktu mowy na podstawie tekstu. Obejmowały one automatyczną generację sygnału mowy oraz twarzy mówiącego z dokładnością pozwalającą na czytanie z ust. Zasadnicza część tych badań dotyczyła syntezy ruchu warg sztucznej twarzy. Wynikiem tych prac było opracowanie programu DECface, pozwalającego na bezpośrednią animację wymawiania zadanego tekstu [Waters, Levergood 1994]. Postać ekranu sterującego tego programu przedstawiono na rys. I. Program ten wykonuje następujące sekwencje operacji: I) wprowadzenie tekstu w formie ASCII, 2) utworzenie transkrypcji fonetycznej tekstu, 3) generację próbek syntezowanego sygnału mowy, 4) wyszukiwanie odpowiednich fonemów w bazie danych, 5) obliczenie kształtu warg i przebiegu trajektorii ich zmian, 6) odtworzenie próbek syntezowanego sygnału mowy w urządzeniu akustycznym (głośniku) oraz ich synchronizacja z ruchami warg sztucznej twarzy na ekranie komputera. Enter ~l<\ to be 'l'di<en: Hallo world, my Rame is OEChce the one and onły talking computer generated head. Oid you knowlhlll Mary had a littje lamb? No, well it's a grad story! I read ił.,1i the time. Oid you every he:llf the one about the three bears? That'g another great one! Oh welł. That's really difficu 1 tł tima for me to do something. How "baut finging? ~.!::l c-.... """'".. ms I...J, ~-~ ~ ~.łi'l """1" I ~ ~,t:;!pł ::;gg MiI!W- A l'iiqiin D - R FnIn~i I R Frafl1alls to! R ~~$ 0- R Com - r Ll f..j_r- u--- Ci] 1>::0 n D II D n o l llfi M... ~III' l) l r... t.. b I l FnmlHl.. t.4 I ~ronłjolls o ""!'i ~ I...J--r::o-- LLl --r::o-- JlJ omi"-- II o o o II IJ Rys. l. Wygl:łd ekranu s lerujlłcego programu DECface [Waters, Le ve rgood 1994) Komputerowa animacja aktu mowy Kroki: l, 2 i 3 stanowią integralną część rozważanego algorytmu i mogą być widziane jako fazy przetwarzania wstępnego. Zarówno transkrypcja fonetyczna, jak i próbki mowy mogą być generowane wcześniej i przechowywane na dysku. Pozostałe kroki algorytmu są związane z adaptacyjną synchronizacją sygnału akustycznego oraz obrazu i powtarzane aż do momentu, gdy wszystkie próbki mowy zostaną odtworzone. Czytanie z ust w języku angielskim opiera się na 55 fonemach oraz związanych z nimi ułożeniami warg pokazanymi na rys. 2. Tradycyjnie czytanie z ust jest traktowane jako proces całkowicie wizualny, rozwinięty przez osoby z tak dużą wadą słuchu, że słuch nie odgrywa u nich żadnej roli w odbiorze mowy. W wizualnej percepcji mowy można wyróżnić trzy SISilence O, "~",. ;r'~ \' 1 \>:j:::.r'<'i;, "'f-~ " AWdown 8.n" T...!(~~~;~~) '<!.~:-:-y.>' ':ti5"~\ ".~"W:!.. : V'L~~-\,'i ly beal I :". (\ ~:~ i~,' ->,... 7 ',ft~y" AHbul 9 ":~., H~_ t; ''<.:/.:>:_.:.:')' AXI'o/'""' IH bit 2,... ';J~;... " ~., li, ',. 1../ \ y.;.. / '.::r.:. AD houghl 10 /t~rn' ",?,~, ;~'.!~ii.~. ; ;'.i. > EY bail 3 ~1j;:1 \~:~~:Y OWhoat 1 I,"....--~ '~/::~" \~,) IR /Ii"a EH bet 4 1,.J)".:::: <.~~~) OYlmy 12 'Ii:~ ;~~:~~~,_.. {':. } (),,\ ""28'''' :rl AE Imt 5,1q,':-" i)~:,;\ \?i. ti:: ~! UH Mok 13 /F";:0,. i l~,, 'L' \ \.";:-,. i.:-f.. ;.,;':,' UW lule 14 ~i~~~\ IX fś,,;e,,r ~ l /,.;'"" -'--,',:\ /.;;".~ / j.:t::r-'~ i",,~,"q,~ y, \\/:.:.?- I I \... \::j:,.. r, H!V(~ " {' ~i '<:1:::::." ;' V'/l.:')' \'S>:';,Y (~j~~') W wet Y)'et R... d LLlel HX head 24 RX 19'0C r LX 25 JO'0c l M met /Y!'\,~["::f~ >, i!,i~,\. Ii\--. :" '?,~ h';'::-:~ '! "::":;~~; :'.(/ \K?} 0~f~ t~' ;J~lj-};: ) <:J.:'!:~'> N flel NX sing EL bonie 34 D debl 35 EN bulion 36 ZH measl/re 44 B bet 46 T,est 47 ;~;~.\ ""-"' ~ Kkit DX barter TXLa,in 52 Q gi stop 53 CH church 54 JHjudge 55 Rys. 2, Ułożenie warg związane z poszczególnymi fonemami języka angielskiego [Waters, Levergood 1994J ~',t.f~~ >, /" qj~/.,,<1lr~~ \!,~~?tr{,} <~J!{:7 <~~!t:!;

4 116 Jolanta Zielińska Komputerowa animacja aktu mowy mechanizmy: audytoryjny, wizualny i audiowizualny. Osoby z wadą słuchu koncentrują się na audiowizualnej percepcji mowy. kładąc nacisk na obserwację kontekstu, w którym słowa są wypowiadane, oraz na postawę i mimikę twarzy mówiącego. Automatyczna synteza mowy z tekstu opisuje proces generacji sygnału akustycznego odpowiadającego zadanemu ciągowi liter. Systemy te wykorzystują słowniki wymowy określonych wyrazów, uzupełnione zbiorem zasad konwersji tekstu na fonemy, uwzględniające również znaki leksykalne w pływające na rozłożenie akcentu. Syntetyzatory otrzymują zazwyczaj na wejściu ciągi fonemów, które łączone są w wypowiedzi według odpowiednich reguł. Istnieją trzy zasadnicze grupy tych reguł, oparte odpowiednio na: formantach, zasadach artykulacji i konkatenacji. Zadaniem syntetyzatora mowy jest generacja sekwencji złożonej z par [fonem, czas]. Parametr czasu określa czas trwania w milisekundach danego fonemu. Sekwencja ta jest tłumaczona na podstawowy ciąg ułożeń ust zgodnie z tabelą przedstawioną na rys. 2. Płynna zmiana ułożenia ust pomiędzy kolejnymi elementami tej sekwencji wyliczana jest na podstawie modelu fizycznego opartego na dynamice Newtona. Model ten umożliwia obliczenie szybkości przemieszczeń poszczególnych elementów sztucznej twarzy pokazanej na rys. 3 i uwzględnia w sposób parametryczny szybkość wypowiedzi oraz masę poszczególnych elementów twarzy. Wygenerowany w ten sposób ciąg obrazów wizualizowany jest w formie filmu na ekranie komputera. (ax ) (f ) (yu ) Rys. 4. Przykład wypowiedzi sztucznej twarzy [Waters, Levergood 1994J III. IMPLIKACJE I WNIOSKI Przykład wypowiedzi uzyskanej w ramach programu DECface pokazano na rys. 4 w formie wybranych klatek filmu. Przedstawiony system został zimplementowany na stacji roboczej DECAAlpha 3000/500 (150 MHz) i pozwalał na gen'eracje 15 klatek na sekundę Najnowsze osiągnięcia nowoczesnej techniki komputerowej stwarzają nowe możliwości jej zastosowania zarówno w analizie sygnału mowy, jak i w syntezie oraz animacji aktu mowy, obejmującego cały kontekst wizualnej możliwości percepcji. Oznacza to m.in. możliwość symulacji twarzy osoby mówiącej z dokładnością pozwalającą na czytanie z ust. Wymaga jednak użycia dużych mocy obliczeniowych i dlatego. niestety, jeszcze obecnie nie można uznać metod rewalidacji opartych na tej koncepcji jako możliwych do powszechnego zastosowania w polskim szkolnictwie specjalnym. Celem artykułu było pokazanie stanu zaawansowania techniki komputerowej w zakresie animacji aktu mowy oraz możliwości, jakie w perspektywie stwarza niewątpliwie to nowe narzędzie rewalidacji osób z wadą słuchu.

5 Jolanta l 18 Zielińska Synteza wypowiedzi na podstawie tekstu pozwala bowiem na opracowanie testów do ćwiczeń-wzorców dla ludzi z wadą słuchu, mających na celu wzmocnienie wizualnej percepcji mowy, kształtowanie umiejętności czytania z ust oraz poprawnej motoryki oralnej, głównie pracy warg. Prezentowane narzędzie jest możliwe do zastosowania zarówno przez nauczyciela-rewalidatora, jak i samodzielnie przez rewalidowaną osobę, przykładowo poprzez wykorzystanie kamery zainstalowanej przy komputerze i wyświetleniu na jego ekranie aktualnego kształtu ust osoby ćwiczącej obok widocznego wzorca. Sposób wykorzystania komputerowej animacji aktu mowy w kształceniu językowym osób z uszkodzonym słuchem stanowi problem badawczy, wymagający m.in. opracowania wersji oprogramowania przystosowanej do języka polskiego. Bibliografia Grzegorzewska M., 1964: Pedagogika specjalna, Warszawa: PiPS. Lowe A. t 1990: Wybór pism, Warszawa- Szczecin. Pćrier O., 1992: Dziecko z uszkodzonym narządem słuchu. Tłum. T. Gałkowski, Warszawa: WSiP. Rakowska A., 1992: Rozwój systemu gramatycznego u dzieci Tadeusiewicz R., 1988: Sygnał mowy, Warszawa: głuchych, Kraków: WN WSP. WKiŁ. Walers K" Levergood T. M., 1994: DECface: An Automatic Lip-Synchronization Algorithm for Synthetic Faces, DEC Cambridge Research Lab.