Головна |
« Попередня | Наступна » | |
9. Деякі узагальнення |
||
Як вже неодноразово зазначалося вище, итеративное научение характеризується постійністю зовнішніх умов і цілей розвитку, тобто має місце стационарность зовнішніх (по відношенню до навченою системі) параметрів (умов функціонування). Покажемо, що для пояснення уповільнено-асимптотичного (експоненціального) характеру кривих ітеративного навчання досить ввести припущення про стаціонарність деяких параметрів самої навченою системи (внутрішніх умов функціонування). Більш того, цього припущення достатньо для пояснення набагато ширшого кола явищ і процесів, чим тільки ІН - починаючи від ряду фізичних і хімічних закономірностей і закінчуючи процесами самоорганізації та адаптації в складних біологічних і кібернетичних системах. Розглянемо наступну модель, яка є узагальненням практично всіх розглянутих вище моделей в наступному сенсі: ми не будемо вводити припущень про характер, законах і т.д. взаємодії елементів і структурі системи, вважаючи, що існують деякі характеристики елементів (їх неузгодженості), що визначають неузгодженість системи. О. Розглянемо систему, що складається з n елементів. Неузгодженість i-го елемента позначимо x, (t), i = 1, n. Без втрати спільності можна вважати, що якщо система навчається, то має місце: x, (0) = 1, x, (t)> 0 "t> 0, lim x, (t) = 0, i = 1, n. t -? Будь крива такого типу може бути представлена у вигляді (9.1) x, (t) = e- '(t}, i = Щ. де Х, (0) = 0, xi (t) - +?, i = 1, n. Назвемо умовно швидкістю t -? навчення i-го елемента логарифмічну похідну його неузгодженості ("відносну швидкість" - x, / x,), тобто величину dX (t) gi (t) = - '| - (у кожному конкретному випадку потрібно чітко представ-dt лять собі - що є елементом модельованої системи і які змістовні інтерпретації швидкості його навчення). Як правило, траєкторії реальних фізичних і біологічних систем володіють достатньою гладкістю, тому в більшості випадків відповідне похідна визначена. Якщо Х, () - абсолютно безперервні функції (з точністю до константи допускають представлення у вигляді інтеграла від похідної), то (9.1) прийме вигляд і (9.2) x, (t) = exp {- JJ, (t) dt}, і = 1, n . , n. 0 Г. Неузгодженість системи в цілому є деякою функцією неузгодженостей елементів: x (t) = F (xi (t), x2 (t) ..., x "(t)). Природно припустити, що функція F () неотрицательна, монотонна по кожній змінної і звертається в нуль тоді і тільки тоді, коли звертаються в нуль неузгодженості всіх елементів. Наприклад, F () може бути нормою в просторі Шn. Відомо, що в скінченновимірних просторах (у розглянутій моделі розмірність простору визначається числом елементів научайтесь системи, а воно завжди звичайно) всі норми еквівалентні, то Тобто для будь-яких двох норм Fj (-) і F2 () знайдуться такі константи a і Д що для будь-якого x є Ш n буде виконано: (9.3) aF2 (x) 1 / n t exp П x, (t) (9.4) x (t) t 1 n {- J - Z g, (t) dt}. г = 1 0 П і = 1 Якщо вибрати як неузгодженості системи середнє арифметичне неузгодженостей елементів: F (x1 (t), x2 (t) ..., xn (t)) = ZI x, (t) |, г = 1 то при досить великих n середнє арифметичне "збігається" (з точністю до мультиплікативної константи) з середнім геометричним (коректне обгрунтування наведено в [60, 64]). Таким чином, для того, щоб (9.4) було у визначеному у [60] сенсі оцінкою неузгодженості системи (див. (9.3)), потрібно, щоб число елементів системи було велике. Ф (В). Тепер скористаємося гіпотезою про стаціонарності характеристик елементів. Більш точно, будемо вважати, що швидкості научения елементів - незалежні випадкові величини, що мають довільні стаціонарні розподілу. Тоді підінтегральний вираз в (9.3) асимптотично постійно [64], тобто при великих n виконано: 1n -У уг (t) »Const," t> 0. ni = 1 Позначаючи цю константу (швидкість навчення) через у, з (9.4) і (9.5) отримуємо: x (t) »~ е" уt. А. Таким чином, в рамках розглянутої моделі експонентний вид залежності неузгодженості системи від часу є наслідком стаціонарності зовнішніх і внутрішніх параметрів (умов функціонування), а також великої кількості елементів системи. Наявність великої кількості елементів системи є істотним - "криві научения" окремих елементів можуть бути далеко не експоненціальними. Грубо кажучи, чим більше число елементів системи і чим "стаціонарно" їх характеристики, тим більше точно (9.6) апроксимує криву навчання системи. Слід зазначити, що пропонована модель далеко не досконала. Наприклад, уважний читач може запитати: а чому ми використовували саме уявлення (9.1) для "кривий навчання" окремого елемента? (якщо припустити стационарность похідних x, (t), то вийде лінійна функція, не задовольняє умові асимптотічность), що таке функція X, (t) і чому саме розподіл її похідних стаціонарно? Аналогічні заперечення може викликати обгрунтованість припущень про властивості функції F (), незалежності характеристик елементів і т.д. Виправданням може служити наступне міркування. Нехай деяка система характеризується експоненційної КН зі швидкістю навчення у, значення якої, фактично, визначає відмінність однієї КН (научайтесь системи) від іншої. Будуючи модель ІН, дослідник при розгляді взаємодії елементів системи змушений вводити ті чи інші припущення. Як свідчить проведений вище аналіз, існує ціла безліч припущень, що призводять до необхідному висновку про експоненційної динаміці поведінки системи. Тому критерієм порівняння моделей ІН (яка модель "краще") повинні служити саме вводяться припущення. З цієї точки зору пропонована модель "краще" розглянутих вище (є більш загальною, то тобто включає більшість відомих моделей як окремі випадки). Процес генерації моделей можна і потрібно продовжувати далі. Проте, при цьому потрібно чітко уявляти собі, що швидше за все відмовитися повністю від припущень про стаціонарності і / або обмеженості тих чи інших параметрів системи та / або множинності складових її елементів навряд чи вдасться. - Тепер покажемо, що наведена модель узагальнює моделі, розглянуті в попередніх розділах. Велике число елементів навченою системи виявляється істотним в моделях: 4.2, 5.2, 5.3, 6.1, 6.7, 6.10, 7.2, 7.5, 8.5. в моделях 4.1, 4.5, 5.1, 5.4, 6.5, 8.2, 8.3 постійна логарифмічна похідна неузгодженості, тобто постійний коефіцієнт пропорційності між швидкістю зміни неузгодженості та її поточним значенням (зрозуміло, що навіть при n = 1 це припущення відразу призводить до експоненціального виду кривої неузгодженості); в моделях 4.2, 7.3, 7.4 постійні коефіцієнти пропорційності у виразах для приросту ймовірностей; в моделі 5.2 ймовірність "розпаду" не залежить від часу і числа " розпалися атомів "; в моделі 5.3 постійна відносна помилка кожного з регуляторів; в моделі 5.5 варіація організації системи постійна (дорівнює нулю); в моделях 6.2, 6.3, 6.6 постійно кількість інформації, усваиваемое, одержуване або переробляє навченою системою в одиницю часу; в моделі 6.7 рівні ймовірності показу різних зображень; в моделі 6.9 пропорція між переданої та отриманої інформацією не залежить від часу і кількості накопиченої інформації; модель 6.10 (як і 5.2) дуже близька до моделі, розглянутої в цьому розділі; в моделі 7.1 постійна пропорція відрізків розбиття; в моделі 7.2 неузгодженості елементів системи розподілені рівномірно в кожен момент часу; в моделі 8.4 обмеженість швидкості зміни (Ліпшиця вость) правих частин нормальної системи диференціальних рівнянь виявляється достатньою для асимптотічность траєкторії системи; в моделі 8.5 невзаємодіючими елементів або сталість положення цілі призводять до експоненціального виду кривої неузгодженості. У той же час, слід зазначити, що при итеративном научении у разі нестаціонарних внутрішніх характеристик системи можуть спостерігатися і багаторазово спостерігалися в експериментах неекспоненціальние (логістичні, з проміжним плато та ін - див другий розділ) криві научения. Таким чином, у наведених вище моделях для отримання висновку про експоненціально кривої навчання робляться або припущення про множинність і однорідності елементів системи (див. також зауваження про необхідність усереднення індивідуальних КН в другому розділі) і про стаціонарності деяких характеристик елементів (множинність при "слабкою" стаціонарності дає можливість зробити "усереднення" і отримати "сильну" стационарность "в середньому"; інтуїтивно - "невелика нестационарность" призводить до "зразковою експоненціально"), або більш сильне припущення про стаціонарність. Значить можна зробити наступний висновок: якщо число елементів научайтесь системи досить велике, а її характеристики і умови функціонування (внутрішні та зовнішні) стаціонарні, то відповідна крива навчення буде експоненційної. Більше того, наведені в цьому розділі модель виявляється адекватної не тільки ітеративному навченню, але і процесам самоорганізації та адаптації у великих системах, що задовольняють припущеннями стаціонарності. |
||
« Попередня | Наступна » | |
|
||
Інформація, релевантна "9. Деякі узагальнення" |
||
|