Metode rješavanja loše uvjetovanih sustava. Uvjetovanost sustava linearnih jednadžbi. Rješavanje nelinearnih jednadžbi i sustava nelinearnih jednadžbi


Potreban vektor

Ako je , tada se sustav (1) naziva loše uvjetovanim. U tom slučaju pogreške u koeficijentima i desnim stranama matrice ili pogreške zaokruživanja u izračunima mogu uvelike iskriviti rješenje.

Pri rješavanju mnogih problema desna strana sustava (1) i koeficijenti matrice A su približno poznati. U ovom slučaju umjesto točnog sustava (1) imamo neki drugi sustav

takav da

Pretpostavljamo da su vrijednosti i d poznate.

Kako umjesto sustava (1) imamo sustav (2), možemo naći samo približno rješenje sustava (1). Metoda za konstruiranje približnog rješenja sustava (1) mora biti stabilna na male promjene početnih podataka.

Pseudorješenje sustava (1) je vektor koji minimizira diskrepanciju u cijelom prostoru.

Neka je x 1 neki fiksni vektor iz , obično određen iskazom problema.

Rješenje sustava (1) normalno u odnosu na vektor x 1 je pseudorješenje x 0 s minimalnom normom, tj.

gdje je F skup svih pseudorješenja sustava (1).

Štoviše

gdje su ¾ komponente vektora x.

Za svaki sustav tipa (1) postoji normalno rješenje i ono je jedinstveno. Problem pronalaska normalnog rješenja loše uvjetovanog sustava (1) je pogrešno postavljen.

Da bismo pronašli približno normalno rješenje sustava (1), koristimo se metodom regularizacije.

Prema ovoj metodi konstruiramo funkcional izglađivanja forme

i pronađite vektor koji minimizira ovaj funkcional. Štoviše, parametar regularizacije a jedinstveno je određen iz uvjeta

Gdje .

Degenerirani i loše uvjetovani sustavi mogu biti nerazlučivi unutar zadane točnosti. Ali ako postoji informacija o rješivosti sustava (1), tada umjesto uvjeta (5) treba koristiti sljedeći uvjet:

Komponente vektori su rješenja sustava linearnih algebarske jednadžbe, koji se dobiva iz minimalnog uvjeta funkcionala (4)

i izgleda kao

gdje je E matrica identiteta,

¾Hermitska konjugirana matrica.

U praksi, odabir vektora zahtijeva dodatna razmatranja. Ako nisu prisutni, tada pretpostavimo =0.

Za =0 zapisujemo sustav (7) u obliku

Gdje

Nađeni vektor bit će približno normalno rješenje sustava (1).

Usredotočimo se na odabir parametra a. Ako je a=0, tada se sustav (7) pretvara u loše uvjetovan sustav. Ako je a veliko, tada će sustav (7) biti dobro uvjetovan, ali regularizirano rješenje neće biti blizu željenog rješenja sustava (1). Stoga preveliko ili premalo a nije prikladno.

Obično se u praksi proračuni provode s određenim brojem vrijednosti parametra a. Na primjer,

Za svaku vrijednost a pronađite element koji minimizira funkcional (4). Za željenu vrijednost parametra regularizacije uzima se broj a za koji je jednakost (5) ili (6) zadovoljena sa traženom točnošću.

III. VJEŽBA

1. Konstruirajte sustav linearnih algebarskih jednadžbi koji se sastoji od tri jednadžbe s tri nepoznanice, s determinantom čija je vrijednost reda veličine 10 -6.

2. Konstruirajte drugi sustav, sličan prvom, ali s drugim slobodnim članovima koji se od slobodnih članova prvog sustava razlikuju za 0,00006.

3. Konstruirane sustave riješiti metodom regularizacije (pod pretpostavkom =0 i d=10 -4) i nekom drugom metodom (npr. Gaussovom metodom).

4. Usporediti dobivene rezultate i zaključiti o primjenjivosti korištenih metoda.

IV. FORMULACIJA IZVJEŠĆA

Izvješće mora sadržavati:

1. Naslov djela.

2. Izjava problema.

3. Opis algoritma (metode) rješenja.

4. Tekst programa s opisom.

5. Rezultati programa.

BIBLIOGRAFSKI POPIS

1. Tikhonov A.N., Arsenin V.Ya. Metode rješavanja pogrešno postavljenih problema. - M.: Nauka, 1979. 286 str.

2. Bakhvalov N.S., Zhidkov N.P., Kobelkov G.M. Numeričke metode. - M.: BINOM. Laboratorij znanja, 2007. 636 str.


Laboratorijski rad № 23

Vratimo se ponovno na SLAU Ah=b S kvadratna matrica Veličina MhN, koji, za razliku od gore razmatranog "dobrog" slučaja (vidi Odjeljak 8.D), zahtijeva poseban pristup. Obratimo pozornost na dvije slične vrste SLAE:

  • degenerirani sustav (s nultom determinantom |A|=0);
  • loše uvjetovan sustav (determinanta A nije jednaka nuli, ali broj uvjeta je vrlo velik).

Unatoč činjenici da se ovi tipovi sustava jednadžbi međusobno značajno razlikuju (za prvi nema rješenja, a za drugi postoji samo jedno), s praktičnog gledišta računala postoji mnogo toga zajedničkog između ih.

Degenerirani SLAE

Degenerirani sustav je sustav opisan matricom s nultom determinantom |A|=0(singularna matrica). Budući da su neke jednadžbe uključene u takav sustav predstavljene linearnom kombinacijom drugih jednadžbi, tada je zapravo sam sustav nedovoljno određen. Lako je shvatiti da, ovisno o specifičnoj vrsti vektora desne strane b, postoji ili beskonačan broj rješenja ili niti jedno. Prva opcija svodi se na konstruiranje normalnog pseudorješenja (tj. odabir iz beskonačnog skupa rješenja onog koje je najbliže određenom, npr. nultom vektoru). Ovaj slučaj je detaljno razmatran u odjeljku. 8.2.2 (vidi popise 8.11-8.13).

Riža. 8.7. Grafički prikaz nekonzistentnog sustava dviju jednadžbi sa singularnom matricom

Razmotrimo drugi slučaj, kada je SLAE Ah=b s singularnom kvadratnom matricom A nema rješenja. Primjer takvog problema (za sustav dviju jednadžbi) ilustriran je na sl. 8.7, na čijem je vrhu unesena matrica A i vektor b, a također se pokušava (neuspješno, jer je matrica A singularna) riješiti sustav pomoću funkcije izolirati. Graf koji zauzima glavni dio slike pokazuje da dvije jednadžbe koje definiraju sustav definiraju dvije paralelne crte na ravnini (x0,x1). Pravci se ne sijeku ni u jednoj točki koordinatne ravnine i, prema tome, nema rješenja sustava.

Bilješka
Prvo, primijetite da SLAE definiran nesingularnom kvadratnom matricom veličine 2x2 definira par linija koje se sijeku u ravnini (vidi sliku 8.9 dolje). Drugo, vrijedi reći da kada bi sustav bio konzistentan, tada bi geometrijski prikaz jednadžbi bile dvije koincidirajuće linije koje opisuju beskonačan broj rješenja
.


Riža. 8.8. Graf odsječaka funkcije ostatka f (x) = |Ax-b|

Lako je pogoditi da u razmatranom pojedinačnom slučaju pseudorješenja sustava koja minimiziraju odstupanje |Ax-b|, bit će ih beskonačno mnogo, i ležat će na trećoj ravnoj liniji, paralelnoj s dvije prikazane na sl. 8.7 i nalazi se u sredini između njih. Ovo je ilustrirano na sl. 8.8, koji prikazuje nekoliko odjeljaka funkcije f(x)= | Ax-b |, koji ukazuju na prisutnost obitelji minimuma iste dubine. Ako ih pokušate pronaći pomoću ugrađene funkcije Minimiziraj, njegova će numerička metoda uvijek pronaći bilo koju točku spomenutog pravca (ovisno o početnim uvjetima). Dakle, za određivanje jedinstvenog rješenja treba iz cjelokupnog skupa pseudorješenja odabrati ono koje ima najmanju normu. Možete pokušati formulirati ovaj višedimenzionalni problem minimizacije u Mathcadu koristeći kombinacije ugrađenih funkcija Minimiziraj, međutim više učinkovit načinće koristiti regularizaciju (vidi dolje) ili ortogonalne matrične dekompozicije (vidi Odjeljak 8.3).

Laboratorijski rad br.3

Rješavanje loše uvjetovanih sustava linearnih algebarskih jednadžbi

Metoda regularizacije

Ulazni parametri: n-pozitivan cijeli broj jednak redu n sustava; a je niz od n x n realnih brojeva koji sadrži matricu koeficijenata sustava; b - niz od n realnih brojeva koji sadrži stupac slobodnih članova sustava (b(1) = b 1, b(2)=b 2, …b(n)=b n) .

Izlazni parametri: x – rješenje sustava; p-broj ponavljanja.

Dijagram algoritma prikazan je na slici 18.

Tekst programa:

procedure regul(N:Integer;a:Tmatr;b:Tvector;var X:Tvector; var p:integer);

var a1,a2:tmatr; b1,b2,x0:tvektor; alfa,s1,s:stvarno; max,eps:stvarno; i,j,k,l:cijeli broj;

Izlaz_Slau_T(n,a,b);

Za I:=1 To n Do (primanje A T A)

Za K:=1 Do N Do

Za J:=1 Do N Do S:=S+A*A;

Za I:=1 To N Do (primanje A T B)

Za J:=1 Do N Do

Početak S:=S+A*B[j];

alfa:=0; (početna alfa vrijednost)

k:=0; (broj ponavljanja)

alfa:=alfa+0,01; inc(k); a2:=a1;

za i:=1 do N napravite a2:=a1+alfa; (primanje A T A+alfa)

za i:=1 do N napravite b2[i]:=b1[i]+alfa*x0[i]; (primanje A T B+alfa)

SIMQ(n,a2,b2,l);

a2:=a1; X:=b2; x0:=X; b2:=b1;

vozm(N,eps,a2,b2);

simq(n,a2,b2,l);

za i:=2 do n učiniti

if abs(b2[i]-X[i])>max then max:=abs(b2[i]-X[i]);

X1 = 1,981 X2 = 0,4735


Slika 18 - Shema algoritma metode regularizacije

Varijante zadataka za rješavanje loše uvjetovanih sustava metodom regularizacije dane su u tablici 3.

Metoda rotacije (Givens)

Dijagram algoritma prikazan je na slici 19.

Primjer. Riješite sustav jednadžbi

Tekst programa:

POSTUPAK Vrash;

Var I,J,K: cijeli broj; M,L,R: Stvarno; F1:TEKST; Oznaka M1,M2;

Izlaz_Slau_T(nn,aa,b);

za i:=1 do Nn do

Za I:=1 Za Nn-1 Započnite

Za K:=I+1 To Nn Do Begin

If (Aa0.0) Then Goto M1; If (Aa0.0) Then Goto M1;

1:M:=Sqrt(Aa*Aa+Aa*Aa);

L:=-1,0*Aa/M;

M2:Za J:=1 Za Nn Započni

R:=M*Aa-L*Aa;

Aa:=L*Aa+M*Aa;

R:=M*Aa-L*Aa;

Aa:=L*Aa+M*Aa;

Za I:=Nn Downto 1 Do Begin

Za K:=0 Do Nn-I-1 Započni M:=M+Aa*Aa; Kraj;

Aa:=(Aa-M)/Aa; Kraj;

za i:=1 do Nn do x[i]:=Aa;Kraj;

Proračuni prema programu doveli su do sljedećih rezultata:

X1 = 1,981 X2 = 0,4735

Slika 19 - Shema algoritma Givensove metode (rotacija)

Mogućnosti zadataka

Tablica 3

Matrica A

Matrica A

Tema laboratorijskog rada broj 3 za kontrolu znanja ilustrirana je programom kontrole i obuke.

Laboratorijski rad br.4

Rješenje nije linearne jednadžbe i sustavi nelinearnih jednadžbi

Metoda jednostavne iteracije

Postupak izvođenja laboratorijskih radova:

    Naći nultu aproksimaciju rješenja;

    Transformirajte sustav f(x) = 0 u oblik x = F(x);

    Provjerite uvjet konvergencije metode.

Dijagram algoritma prikazan je na slici 20.

Primjer. Riješite sustav metodom jednostavne iteracije

Kao nultu aproksimaciju odaberemo točku x = 1, y = 2,2, z = 2. Transformirajmo sustav u oblik

Tekst programa:

POSTUPAK Iteraz;

Varijanta I,J,K,J1: cijeli broj;

X2,X3,Eps: Stvarno;

Eps:=0,01; X2:=0,0; K:=1;

Za J:=1 To Nn Do Početi

Za I:=1 To Nn Do Početi S:=S+Aa*Xx[i]; Kraj;

Za J1:=1 Za Nn Do Početak Xx:=R; Kraj; X3:=Xx;

For I:=1 To Nn Do Begin If (Xx[i]>=X3) Then X3:=Xx[i]; Kraj;

Za I:=1 To Nn Do Početak Xx[i]:=Xx[i]/X3; Kraj;

X1:=X3; U:=Abs(X2-X1); U1:=U/Abs(X1);

Ako je (U1>=Eps) Tada je X2:=X1;

Sve dok ((K>=50) ili (U1

Proračuni prema programu doveli su do sljedećih rezultata:

X(1)= 1,1132 X(2)= 2,3718 X(3)= 2,1365

Broj ponavljanja:5

Slika 20 - Shema algoritma metode jednostavne iteracije

Newtonova metoda

Program se može koristiti za rješavanje sustava reda ne većeg od desetog.

Ulazni parametri: n - broj jednadžbi sustava (poklapa se s brojem nepoznanica), n £ 10; x-niz od n realnih brojeva koji sadrži početnu pretpostavku rješenja; f je naziv vanjske procedure f(n, x, y), koja na temelju zadanih vrijednosti x koje se nalaze u elementima niza x izračunava trenutne vrijednosti funkcije f i smješta ih u elementi niza y; g - naziv vanjske procedure g(n, x, d), koja izračunava elemente matrice iz zadanih vrijednosti x iz niza x
, koji se nalazi u nizu d dimenzija n x n; eps - vrijednost uvjeta za završetak iterativnog procesa.

Izlazni parametri: x - niz od n realnih brojeva (poznat i kao ulaz) sadrži približnu vrijednost rješenja pri izlasku iz potprograma; k je broj ponavljanja.

8.2.3. Degenerirani i loše uvjetovani sustavi

Vratimo se ponovno na SLAE Ax=b s kvadratnom matricom A veličine MxN, koja, za razliku od gore razmatranog "dobrog" slučaja (vidi odjeljak 8. D), zahtijeva poseban pristup. Obratimo pozornost na dvije slične vrste SLAE:

  • degenerirani sustav (s nultom determinantom |A|=0);
  • loše uvjetovan sustav (determinanta A nije jednaka nuli, ali je broj uvjeta vrlo velik).

Unatoč činjenici da se ovi tipovi sustava jednadžbi međusobno značajno razlikuju (za prvi nema rješenja, a za drugi postoji samo jedno), s praktičnog gledišta računala postoji mnogo toga zajedničkog između ih.

Degenerirani SLAE

Degenerirani sustav je sustav opisan matricom s nultom determinantom |A|=0 (singularna matrica). Budući da su neke jednadžbe uključene u takav sustav predstavljene linearnom kombinacijom drugih jednadžbi, tada je zapravo sam sustav nedovoljno određen. Lako je shvatiti da, ovisno o specifičnoj vrsti vektora desne strane b, postoji ili beskonačan broj rješenja ili niti jedno. Prva opcija svodi se na konstruiranje normalnog pseudorješenja (tj. odabir iz beskonačnog skupa rješenja onog koje je najbliže određenom, npr. nultom vektoru). Ovaj slučaj je detaljno razmatran u odjeljku. 8.2.2 (vidi popise 8.11-8.13).

Riža. 8.7. Grafički prikaz nekonzistentnog sustava dviju jednadžbi sa singularnom matricom

Razmotrimo drugi slučaj, kada SLAE Ah=b sa singularnom kvadratnom matricom A nema niti jedno rješenje. Primjer takvog problema (za sustav dviju jednadžbi) ilustriran je na sl. 8.7, u čijem su gornjem dijelu uvedeni matrica A i vektor b, te se pokušava (neuspješno, jer je matrica A singularna) riješiti sustav pomoću isolve funkcije. Graf koji zauzima glavni dio slike pokazuje da dvije jednadžbe koje definiraju sustav definiraju dvije paralelne crte na ravnini (x0,xi). Pravci se ne sijeku ni u jednoj točki koordinatne ravnine i, prema tome, nema rješenja sustava.

BILJEŠKA

Prvo, primijetite da SLAE definiran nesingularnom kvadratnom matricom veličine 2x2 definira par linija koje se sijeku u ravnini (vidi sliku 8.9 dolje). Drugo, vrijedi reći da kada bi sustav bio konzistentan, tada bi geometrijski prikaz jednadžbi bile dvije koincidirajuće linije koje opisuju beskonačan broj rješenja.

Riža. 8.8. Graf odsječaka funkcije ostatka f (x) = |Ax-b|

Lako je pogoditi da u razmatranom singularnom slučaju pseudorješenja sustava koja minimiziraju diskrepanciju |Ax-b| , bit će ih beskonačno mnogo, i ležat će na trećoj ravnoj liniji, paralelnoj s dvije prikazane na sl. 8.7 i nalazi se u sredini između njih. Ovo je ilustrirano na sl. 8.8, koji prikazuje nekoliko odjeljaka funkcije f(x) = = | Ax-b | , koji ukazuju na prisutnost obitelji minimuma iste dubine. Ako ih pokušate pronaći pomoću ugrađene funkcije Minimiziraj, njezina numerička metoda uvijek će pronaći bilo koju točku spomenutog pravca (ovisno o početnim uvjetima). Dakle, za određivanje jedinstvenog rješenja treba iz cjelokupnog skupa pseudorješenja odabrati ono koje ima najmanju normu. Možete pokušati formulirati ovaj višedimenzionalni problem minimizacije u Mathcadu koristeći kombinacije ugrađenih funkcija minimiziranja, ali učinkovitiji način bio bi korištenje regularizacije (vidi dolje) ili ortogonalne matrične dekompozicije (vidi Odjeljak 8.3).

Loše uvjetovani sustavi

Loše uvjetovan sustav je sustav u kojem determinanta A nije jednaka nuli, već uvjetni broj |A -1 | |A| vrlo velika. Iako loše uvjetovani sustavi imaju jedina odluka, u praksi traženje ovog rješenja najčešće nema smisla. Razmotrimo svojstva loše uvjetovanih SLAE na dva konkretni primjeri(Ispis 8.14).

Listing 8.14. Rješenje dva bliska loše uvjetovana SLAE

Svaki red ispisa 8.14 sadrži rješenje dvaju vrlo bliskih loše uvjetovanih SLAE (s istom desnom stranom b i malo različitim matricama A). Unatoč njihovoj blizini, ispada da su točna rješenja ovih sustava vrlo udaljena jedno od drugog. Treba napomenuti da je za sustav dviju jednadžbi lako dobiti točno rješenje, ali kada se rješava visokodimenzionalni SLAE, manje pogreške zaokruživanja koje se neizbježno nakupljaju tijekom izračuna (uključujući "točan" Gaussov algoritam) dovode do velikih pogrešaka u rezultatu. Postavlja se pitanje ima li smisla tražiti numeričko rješenje ako se unaprijed zna da bi se ono, zbog nestabilnosti samog problema, moglo pokazati potpuno netočnim?

Drugo razmatranje koje nas tjera da tražimo posebne metode za rješavanje loše uvjetovanih SLAE (čak i sustav dviju jednadžbi danih kao primjer u ispisu 8.14) povezano je s njihovom fizičkom interpretacijom kao eksperimentalnih rezultata. Ako se inicijalno zna da su ulazni podaci dobiveni s nekom greškom, tada rješavanje loše uvjetovanih sustava nema nikakvog smisla, jer male greške u modelu (matrica A i vektor b) dovode do velikih grešaka u rješenju. Problemi s takvim svojstvima nazivaju se pogrešno postavljeni.

Za bolje razumijevanje razloga netočnosti korisno je usporediti grafičku interpretaciju dobrog (Slika 8.9) i loše (Slika 8.10) uvjetovanog sustava dviju jednadžbi. Rješenje sustava vizualizira se točkom presjeka dviju ravnih linija koje predstavljaju svaku od jednadžbi.

Riža. 8.9. Graf dobro uvjetovanog sustava dviju jednadžbi

Riža. 8.10. Graf loše uvjetovanog sustava dviju jednadžbi

Od sl. 8.10 jasno je da se ravne linije koje odgovaraju loše uvjetovanoj SLAE nalaze u neposrednoj blizini jedna drugoj (gotovo paralelne). S tim u vezi, male pogreške u lokaciji svake od linija mogu dovesti do značajnih pogrešaka u lokalizaciji točke njihova sjecišta (rješenja SLAE), za razliku od slučaja dobro uvjetovanog sustava, kada male pogreške u nagib linija ima mali utjecaj na mjesto njihova sjecišta (Sl. 8.9).

BILJEŠKA

Loše kondicioniranje matrice također je tipično kada se rekonstruiraju eksperimentalni podaci specificirani prekomjerno određenim (nedosljednim) SLAE (na primjer, u problemima tomografije). Ovo je slučaj ilustriran u sljedećem odjeljku (pogledajte ispis 8.16 u nastavku).

Metoda regularizacije

Za rješavanje loše postavljenih problema, posebno degeneriranih i loše uvjetovanih SLAE, vrlo je učinkovita tehnika, koja se naziva regularizacija. Temelji se na uzimanju u obzir dodatnih apriornih informacija o strukturi rješenja (vektor apriorne procjene xo), koje su vrlo često prisutne u praktičnim slučajevima. Zbog činjenice da je o regularizaciji detaljno raspravljano u Pogl. 6.3.3, samo se sjećamo da se problem rješavanja SLAE Ax=b može zamijeniti problemom pronalaženja minimuma Tihonovljevog funkcionala:

Ω (x,λ) = |Ax-b| 2 +λ |x-x0| 2. (8.3)

Ovdje je R, mali pozitivni parametar regulacije, koji mora biti odabran na neki optimalan način. Može se pokazati da se problem minimiziranja Tihonovljevog funkcionala može, zauzvrat, svesti na rješavanje drugog SLAE:

(A T A+ λ I)-x=A T B+λ x0, (8.4)

koji kod λ ->0 ide u izvorni loše uvjetovani sustav i za veliki x, budući da je dobro uvjetovan, ima rješenje x 0. Očito će neka srednja vrijednost A biti optimalna, uspostavljajući određeni kompromis između prihvatljive uvjetovanosti i blizine izvornog problema. Primijetimo da regularizacijski pristup svodi loše postavljen problem na uvjetno dobro postavljen (prema Tihonovu) problem nalaženja rješenja sustava (8.4), koji je zbog linearnosti problema jedinstven i stabilan.

Predstavimo, bez nepotrebnih komentara, regularizirano rješenje degeneriranog sustava, koje je prikazano na sl. 8.8. Ispis 8.15 prikazuje pronalaženje rješenja problema (8.4), a rezultirajuća ovisnost ostatka i samog rješenja o parametru regulacije R prikazana je na slici. 8.11 odnosno 8.12. Važno je naglasiti da su rješenja izvornog sustava, a time i sustava (8.4) at λ =0 ne postoji.

Ispis 8.15 Regularizacija degeneriranog SLAE

Posljednji korak regularizacije je odabir optimalnog λ . Postoje najmanje dva razmatranja na temelju kojih se može odabrati parametar regulacije na temelju ovisnosti ostatka o njemu. U primjeru koji razmatramo primjenjujemo kriterij za određivanje λ , na temelju odabira norme ostatka jednake apriornoj procjeni pogrešaka u specificiranju ulaznih podataka: matrice A i vektora b, tj. vrijednosti | δA | + |5λ|. Na primjer, možete odabrati rezidualnu normu i, sukladno tome, parametar λ i rješenje x( λ ), koji su označeni na sl. 8.11 i 8.12 isprekidane linije.

NAPOMENA 1

Drugi izbor λ , koja ne zahtijeva nikakva apriorna razmatranja u vezi s pogreškama modela, je takozvana kvazi-optimalna metoda, o kojoj se govori u odjeljku. 6.3.3.

NAPOMENA 2

Korisno je provjeriti da formula (8.4) u slučaju linearnog problema daje isti rezultat kao opća formula(8.3). Da biste to učinili, dovoljno je promijeniti zadnji redak u ispisu 8.15, koji izražava rješenje SLAE (8.4), u kod koji implementira minimizaciju numeričkom metodom, kao što je prikazano u ispisu 8.16. Izračuni (koji zahtijevaju znatno više računalnog vremena) daju isti rezultat kao što je prikazano na sl. 8.11 i 8.12.

NAPOMENA 3

Pokušajte u izračunima Ispisa 8.15 i 8.16 uzeti drugačiju, na primjer, realniju, apriornu procjenu rješenja (umjesto nultog vektora x0 koji se u njima koristi) i pogledajte kako to utječe na rezultat.

Riža. 8.11. Ovisnost ostatka regulariziranog rješenja degeneriranog SLAE o parametru A. (nastavak ispisa 8.15)

NAPOMENA 4

Također je zanimljivo koristiti drugu ovisnost umjesto formule (8.3) kao Tihonovljev funkcional: Ω(x,λ ) = |Ax-b|+ λ |x-x0 | . Odgovarajući primjer izračuna pronaći ćete na CD-u.

Riža. 8.12. Regulirano rješenje ovisno o λ (nastavak s popisa 8.15)

Listing 8.16. Regularizacija SLAE-ova korištenjem algoritma minimizacije (nastavak ispisa 8.15)

Prijepis

1 6. Degenerirani i loše uvjetovani SLAE 1 6. Degenerirani i loše uvjetovani SLAE Razmotrimo sada dvije vrste SLAE (27) s kvadratnom matricom A veličine MxM: degenerirani sustav (s nultom determinantom A =0); loše uvjetovan sustav (determinanta A nije jednaka nuli, ali je broj uvjeta vrlo velik). Unatoč činjenici da se ovi tipovi sustava jednadžbi međusobno značajno razlikuju (za prvi nema rješenja, a za drugi postoji samo jedno), s praktičnog gledišta računala postoji mnogo toga zajedničkog između ih. Degenerirani sustav je sustav opisan matricom s nultom determinantom A =0 (singularna matrica). Budući da su neke jednadžbe uključene u takav sustav predstavljene linearnom kombinacijom drugih jednadžbi, tada je zapravo sam sustav nedovoljno određen. Lako je shvatiti da, ovisno o specifičnoj vrsti vektora desne strane b, postoji ili beskonačan broj rješenja ili niti jedno. Razmotrimo prvi slučaj, kada SLAE A x=b sa singularnom kvadratnom matricom A nema niti jedno rješenje. Ova se opcija svodi na konstruiranje normalnog pseudorješenja (tj. odabir iz beskonačnog skupa rješenja onog koje je najbliže određenom, na primjer nultom, vektoru). Navedimo primjer takvog problema (za sustav dviju jednadžbi) A= , b= (37) SLAE (37) ilustriran je na sl. 19, koji pokazuje da dvije jednadžbe koje definiraju sustav definiraju dvije paralelne crte na ravnini (x 1, x 2). Pravci se ne sijeku ni u jednoj točki

2 2 6. Degenerirane i loše uvjetovane SLAE u jednoj točki koordinatne ravnine, pa prema tome ne postoji rješenje sustava. Imajte na umu da SLAE, definiran nesingularnom kvadratnom matricom veličine 2x2, definira par linija koje se sijeku na ravnini (vidi sliku u nastavku). Također je vrijedno reći da kada bi sustav bio konzistentan, tada bi geometrijski prikaz jednadžbi bile dvije koincidirajuće linije koje opisuju beskonačan broj rješenja. Riža. 19. Grafički prikaz nekompatibilnog SLAE Sl. 20. Graf odsječaka reziduala f(x)= A x b ovisno o x 1 Lako je pogoditi da će u pojedinačnom slučaju koji se razmatra postojati beskonačno mnogo pseudo-rješenja sustava (37) koja minimiziraju rezidual A x b, i oni će ležati na trećoj ravnoj liniji paralelnoj s dvije prikazane na sl. 19 i nalazi se u sredini između njih. Ovo je ilustrirano na sl. 20, koji prikazuje nekoliko odjeljaka rezidualne funkcije f(x) = A x b, koji ukazuju na prisutnost obitelji minimuma iste dubine. Da bi se odredilo jedinstveno rješenje, treba iz cjelokupnog skupa pseudorješenja odabrati ono koje ima

3 6. Degenerirani i loše uvjetovani SLAE 3 po najmanjoj normi. Dakle, u pojedinačnom slučaju, da bi se dobilo istaknuto rješenje, potrebno je numerički riješiti višedimenzionalni problem minimizacije. Međutim, kao što ćemo vidjeti kasnije, učinkovitiji način je korištenje regularizacije ili ortogonalne matrične dekompozicije (vidi 7 i 10, respektivno). Prijeđimo sada na loše uvjetovane sustave, tj. SLAE s matricom A, čija determinanta nije jednaka nuli, ali je broj uvjeta A -1 A velik. Unatoč činjenici da loše kondicionirani sustavi imaju jedinstveno rješenje, u praksi često nema smisla tražiti to rješenje. Razmotrimo svojstva loše uvjetovanih SLAE koristeći dva specifična primjera vrlo bliskih loše uvjetovanih SLAE s istom desnom stranom b i malo različitim matricama A i B: A= B=, b=, 3 5. (38 ) Usprkos blizini ovih sustava, njihova se točna rješenja pokazuju vrlo udaljenim jedno od drugog, naime: y A = , y B = (39) Ako se sjetimo prisutnosti šuma, tj. o uvijek prisutnoj pogrešci u ulaznim podacima, postaje jasno da rješavanje loše uvjetovanih sustava standardnim metodama nema nikakvog smisla. Podsjetimo se da se problemi kod kojih male pogreške modela (matrica A i vektor b) dovode do velikih pogrešaka rješenja nazivaju netočnima. Stoga su loše uvjetovani SLAE tipičan primjer loše postavljenih problema. Osim toga, treba napomenuti da je za sustav dviju jednadžbi lako dobiti točno rješenje, ali pri rješavanju visokodimenzionalnog SLAE (uključujući s "točnim" algoritmom

4 4 6. Degenerirani i loše uvjetovani Gaussovi SLAE) čak i manje pogreške zaokruživanja koje se neizbježno nakupljaju tijekom izračuna dovode do ogromnih pogrešaka u rezultatima. Postavlja se pitanje ima li smisla tražiti numeričko rješenje ako se unaprijed zna da bi se ono, zbog nestabilnosti samog problema, moglo pokazati potpuno netočnim? Za daljnje razumijevanje razloga netočnosti, korisno je usporediti grafičku interpretaciju bunara (Sl. 21) i loše (Sl. 22) uvjetovanog sustava dviju jednadžbi. Rješenje sustava vizualizira se točkom presjeka dviju ravnih linija koje predstavljaju svaku od jednadžbi. Riža. 21. Grafikon dobro uvjetovanog SLAE Sl. 22. Grafikon loše uvjetovanog SLAE Sa sl. 22 može se vidjeti da su ravne linije koje odgovaraju loše uvjetovanom SLAE smještene u neposrednoj blizini jedna drugoj (gotovo paralelne). S tim u vezi, male pogreške u lokaciji svake od linija mogu dovesti do značajnih pogrešaka u lokalizaciji točke njihova sjecišta (rješenja SLAE), za razliku od slučaja dobro uvjetovanog sustava, kada male pogreške u nagib linija ima mali utjecaj na mjesto njihova sjecišta (Sl. 21).

5 6. Degenerirani i loše uvjetovani SLAE 5 Imajte na umu da je loše uvjetovana matrica također tipična kada se rekonstruiraju eksperimentalni podaci dani prekomjerno određenim (nekompatibilnim) SLAE (na primjer, u problemima tomografije). Za rješavanje loše postavljenih problema, posebno degeneriranih i loše uvjetovanih SLAE, vrlo je učinkovita metoda, koja se naziva regularizacija. Temelji se na uzimanju u obzir dodatnih apriornih informacija o strukturi rješenja, koje su vrlo često dostupne u praktičnim slučajevima.


10. QR- i SVD-dekompozicije: “loše” SLAE 1 10. QR- i SVD-dekompozicije: “loše” SLAE Među matričnim dekompozicijama posebnu ulogu imaju ortogonalne, koje imaju svojstvo očuvanja norme vektor. Da podsjetimo

7. Regularizacija 1 7. Regularizacija Za rješavanje loše postavljenih problema, sovjetski matematičar Tikhonov predložio je jednostavnu, ali iznimno učinkovitu metodu koja se zove regularizacija i temelji se na uključivanju

Primjer: vaganje 1 Primjer: vaganje Dajmo još jednostavniju interpretaciju inverznog problema povezanog s obradom rezultata eksperimenta, na primjer, vaganje objekata dvije vrste

Tema Numeričke metode linearne algebre - - Tema Numeričke metode linearne algebre Klasifikacija Postoje četiri glavna dijela linearne algebre: Rješavanje sustava linearnih algebarskih jednadžbi (SLAE)

UDK 55 Isabekov KA Madanbekova EE YSU named after KTynystanov O PRIBLIŽNOM RJEŠENJU NEUVJETLJENIH SUSTAVA LINEARNIH ALGEBARSKIH JEDNADŽBI Ovaj članak predstavlja algoritme za dvije metode za rješavanje loših

Posebna računalna radionica s n s Andruševskim Nikolajem Matvejevičem, Fakultet računalnih znanosti i računarstva, Moskovsko državno sveučilište Sažetak Radionica se temelji na detaljna studija metoda singularne dekompozicije matrica i njezina primjena

Preodređeni sustavi linearnih jednadžbi Skalko Yuriy Ivanovich Tsybulin Ivan Shevchenko Alexander Preodređeni SLAE Preodređeni SLAE Razmotrite SLAE Ax = b, ali u slučaju kada postoji više jednadžbi,

Sustavi linearnih algebarskih jednadžbi Osnovni pojmovi Sustav linearnih algebarskih jednadžbi (SLAE) je sustav oblika a a a, a a a, a a a Može se prikazati kao matrična jednadžba

Ne LA ispit za prvostupnike ekonomije u 04-0 akademskoj godini, Pronađite vektor Ne (6 4; 6 8) i Ne DEMO opcija 0 (x; y) (za koju su Ne i x< 0) такой, чтобы система векторов (x ; y) образовывала бы ортогональный

Jednadžba pravca u prostoru 1 Pravac je sjecište dviju ravnina. Sustav dviju linearnih jednadžbi s tri nepoznanice. Pravac u prostoru može se definirati kao sjecište dviju ravnina. Neka

PREDAVANJE 6 SPEKTRALNI ZADACI. Metode spuštanja U prošlom predavanju razmatrane su iterativne metode varijacijskog tipa. Za sustav Au = f, za koji je A = A, uveden je funkcional Φ(u, u).

11. Linearna redukcija 1 11. Linearna redukcija Završimo naš razgovor o linearnim inverznim problemima predstavljanjem drugog pristupa koji se zove redukcija. U biti, vrlo je blizu regularizacije (u nekim

01 1. Nađite opća i osnovna rješenja sustava jednadžbi: x + x + 3x = 26, 2x 12x x = 22, x + 3x + 2x = 20, odabirući x i x kao osnovne varijable. Odgovor: Ako odaberemo kao osnovne varijable

Demo verzija 01 1. Nađite opća i osnovna rješenja sustava jednadžbi: x + x + 3x = 26, 2x 12x x = 22, x + 3x + 2x = 20, odabirući x i x kao osnovne varijable. 2. Pronađite osnovu sustava

Odsjek za temeljne znanosti Moskovskog državnog tehničkog sveučilišta nazvanog po NE Bauman Matematičko modeliranje» ÀÍ Êàíàòíèêîâ,

UDC 57.9 Igrunova S.V., kandidat socioloških znanosti, izvanredni profesor, izvanredni profesor Odsjeka “ Informacijski sustavi» Rusija, Belgorod Kichigina A.K. Student 4. godine, Institut inženjerskih tehnologija i prirodnih znanosti

6 Metode aproksimacije funkcija. Najbolja aproksimacija. Metode aproksimacije razmatrane u prošlom poglavlju zahtijevaju da čvorovi mrežne funkcije strogo pripadaju rezultirajućem interpolantu. Ako ne zahtijevaš

ELEMENTI LINEARNE ALGEBRE KLASIFIKACIJA MATRICA I OPERACIJA NAD NJIMA Definirajte matricu Klasifikacija matrica po veličini Što su nulta i identična matrica? Pod kojim uvjetima se matrice smatraju jednakima?

) Koncept SLAE) Cramerovo pravilo za rješavanje SLAE) Gaussova metoda 4) Rang matrice, Kronecker-Capellijev teorem 5) Rješavanje SLAE inverzijom matrice, koncept uvjetovanja matrica) Koncept SLAE O. SLAE sustav

Paralelni proračuni u tomografiji Algebarske metode računalne tomografije. Problem kompjutorske tomografije u diskretni oblik Problem računalne tomografije u diskretnom obliku. U kontrastu

PREDAVANJE 2 NUMERIČKO RJEŠAVANJE SLAE U pravilu se kod rješavanja većine praktičnih problema problem rješavanja sustava linearnih algebarskih jednadžbi (SLAE) javlja u obliku nekog pomoćnog podzadatka.

Uzorci osnovnih problema u LA Gaussovoj metodi Određeni sustavi linearnih jednadžbi Riješite sustav linearnih jednadžbi Gaussovom metodom x 6 y 6 8, 6 x 6 y 6 Riješite sustav linearnih jednadžbi Gaussovom metodom 6

Operacijska istraživanja Definicija Operacija je događaj usmjeren na postizanje određenog cilja, dopuštajući nekoliko mogućnosti i njihovo upravljanje Definicija Operacijska istraživanja skup matematičkih

Predavanje 3. 3. Newtonova metoda (tangente. Postavimo neku početnu aproksimaciju [,b] i linearizirajmo funkciju f(u susjedstvu pomoću segmenta Taylorovog niza f(= f(+ f "((-. (5 Umjesto jednadžbe) (rješavamo

Jednadžbe pravca i ravnine Jednadžbe pravca na ravninu.. Opća jednadžba ravno. Oznaka paralelnosti i okomitosti pravaca. U Kartezijevim koordinatama definirana je svaka ravna linija na Oxy ravnini

Moskovsko državno tehničko sveučilište nazvano po N.E. Bauman Fakultet temeljnih znanosti Zavod za matematičko modeliranje A.N. Kasikov,

Primjeri izvođenja testova kada učenje na daljinu Test 1 (KR-1) Tema 1. Linearna algebra Zadatak 1 Potrebno je riješiti sustav jednadžbi prikazan u zadatku u obliku Konstantni parametri

Moskovska država Tehničko sveučilište ih. N.E. Odsjek za temeljne znanosti Fakulteta Bauman Viša matematika Analitička geometrija Modul 1. Matrična algebra. Vektorska algebra Predavanje

Ulaznica. Matrice, djelovanja na njih.. Jednadžba parabole u kanonskom koordinatnom sustavu. Ulaznica. Svojstva matričnih operacija.. Uzajamni dogovor ravna i ravna. Kut između njih, uvjeti paralelnosti

3 SADRŽAJ 1. Ciljevi i zadaci discipline 4. Mjesto discipline u strukturi BOP-a 4 3. Struktura i sadržaj discipline 5 3.1. Struktura discipline 5 3.. Sadržaj discipline 6 4. Popis nastavnih i metodičkih materijala

PRAKTIČNA NASTAVA Lekcija POTREBNI I DOVOLJNI UVJETI ZA BEZUVJETNI EKSTREMUM Postavka problema Zadana je dvostruko kontinuirano diferencijabilna funkcija f (), definirana na skupu X R Potrebno je istražiti

Rješenja zadataka iz algebre za drugi semestar D.V. Gorkovets, F.G. Korablev, V.V. Korableva 1 Linear vektorski prostori Problem 1. Jesu li vektori u R4 linearno ovisni? a 1 = (4, 5, 2, 6), a 2 = (2, 2, 1,

Savezna državna obrazovna državna organizacija viši strukovno obrazovanje « Financijsko sveučilište pod Vladom Ruska Federacija» (Financijsko sveučilište) ODJEL “MATEMATIKA”

Xətti ər Rus) üui ithhn sullrı Pokaži da je vektor;;) ;;) ; ;) oblikujte bazu vektora i napišite linearnu kombinaciju vektora If;;) na tim vektorima pronađite X iz jednadžbe Pokažite da je vektor;)

Kronecker-Capellijev teorem. Rješavanje SLAE Gaussovom metodom. Rang matrice. Promotrimo pravokutnu matricu s m redaka i stupaca: A. m m m Odaberimo proizvoljne retke i stupce u ovoj matrici. Elementi

Sustavi linearnih jednadžbi s dvije varijable Sustav jednadžbi oblika naziva se sustavom linearnih jednadžbi s dvije varijable. Rješenje sustava jednadžbi u dvije varijable je par vrijednosti

LINEARNA ALGEBRA Predavanje Pravac i ravnina u prostoru Sadržaj: Jednadžba ravnine Međusobni raspored ravnina Vektorsko-parametarska jednadžba pravca Jednadžbe pravca iz dviju točaka Pravac

DRŽAVNO SVEUČILIŠTE ST. PETERSBURG Fakultet primijenjene matematike procesa upravljanja A. P. IVANOV, Y. V. OLEMSKOY PRAKTIKUM O NUMERIČKIM METODAMA MINIMIZACIJE KVADRATNE FUNKCIJE Metodički

0 g 6 Zbornik FORA MATRICA BROJ UVJETA KAO POKAZATELJ STABILNOSTI U RJEŠAVANJU PRIMIJENJENIH PROBLEMA R Tsey, MM Shumafov Adygeisky Državno sveučilište, g Maikop Matrix broj stanja

MATRICE, DETERMINANTE, SUSTAVI LINEARNIH JEDNADŽBI Metoda graničnih minora za određivanje ranga matrice A = m m m minor Minor k reda k matrice A je bilo koja determinanta k-tog reda ove matrice,

PREDAVANJE 4. ITERATIVNE METODE ZA RJEŠAVANJE SLAE Kako bismo smanjili pogrešku povezanu sa zaokruživanjem, pribjegavamo sljedećem algoritmu Neka je u točno rješenje sustava, u numeričko rješenje Zatim uvodimo

1. Linearni sustavi a matrice 1. Definirajte množenje matrica. Je li ova operacija komutativna? Obrazložite odgovor. Umnožak C matrica A i B definiran je kao m p m p A B ij = A ik B kj. Operacija nije komutativna.

MINISTARSTVO OBRAZOVANJA I ZNANOSTI RUSKE FEDERACIJE TOMSK DRŽAVNO SVEUČILIŠTE SUSTAVA UPRAVLJANJA I RADIO ELEKTRONIKE (TUSUR) Yu.E. Voskobojnikov A.A. Mitzel NETOČNI MATEMATIČKI ZADACI

NUMERIČKE METODE LINEARNE ALGEBRE Odjeljak “Numeričke metode linearne algebre” govori o numeričkim metodama za rješavanje sustava linearnih algebarskih jednadžbi (SLAE) i numeričkim metodama za rješavanje problema

ANALITIČKA GEOMETRIJA 3 TOK Predavač P. V. Golubtsov 1.1. Vektori. Popis pitanja za prvi dio ispita 1. Formulirati definiciju linearnih operacija na vektorima. Navesti svojstva linearnih operacija

Sustavi linearnih algebarskih jednadžbi. Promotrimo sustav od m linearnih algebarskih jednadžbi s nepoznanicama b b () m m m bm Sustav () se naziva homogenim ako su mu svi slobodni članovi b b b m jednaki.

4. Sustavi linearnih jednadžbi. Osnovni pojmovi Jednadžba se naziva linearnom ako sadrži nepoznanice samo prvog stupnja i ne sadrži umnoške nepoznanica, tj. ako ima oblik + + +

Linearna algebra Predavanje 7 Vektori Uvod U matematici postoje dvije vrste veličina: skalari i vektori. Skalar je broj, a vektor se intuitivno shvaća kao objekt koji ima veličinu i smjer Vektorski račun

Popis pitanja za ispit iz numeričkih metoda (28. svibnja 2018.) 0.1 Numerička integracija 1. Navesti metode za izračunavanje nepravilnih integrala. Konstruirajte kvadraturnu formulu za izračunavanje integrala

Paralelni proračuni u tomografiji Metoda jednostavne iteracije. Metoda najstrmijeg spusta. ART metoda. SIRT metoda. U metodi jednostavne iteracije faktori relaksacije τ k i matrice H k ne ovise o broju

Uvod u linearnu matričnu algebru. Definicija. Tablica od m n brojeva oblika m m n n mn koja se sastoji od m redaka i n stupaca naziva se matrica. Elementi matrice numeriraju se slično kao i elementi determinante

PREDAVANJE 7 INTERPOLACIJA Na prošlom predavanju razmatran je problem rješavanja nadodređenog sustava. Takav sustav ima oblik: a 11 x 1 + a 1 x + + a 1 x = f 1, ( a 1 x 1 + a x + + a x = f, ( a 1 x 1 + a x

TEORIJSKA PITANJA I. MATRICE, DETERMINANTE 1) Dajte definiciju matrice. Što su nulta i identična matrica? Pod kojim uvjetima se matrice smatraju jednakima? Kako se izvodi operacija transpozicije? Kada

Predavanje 7 REDUKCIJA KRIVULJE DRUGOG REDA NA KANONSKI OBLIK. Transformacija baza i koordinata na ravnini Neka su dva pravokutna Kartezijanski sustavi koordinate sa zajedničkim ishodištem:

Linearna algebra Modul 1. Linearni i euklidski prostori. Linearni operatori u linearnom prostoru Predavanje 1.4 Sažetak Svojstveni vektori i svojstvene vrijednosti linearnog operatora, njihova svojstva.

UDK. SINTEZA REKURZIVNIH DIGITALNIH FILTERA PO KARAKTERISTIKAMA IMPULSA ODREĐENIH ELEMENTARNOM MATEMATIČKOM FUNKCIJOM Nikitin D.A., Khanov V.Kh. Uvod U suvremenom arsenalu metoda za sintezu rekurzivnih

Poglavlje 8 Funkcije i grafovi Varijable i ovisnosti između njih. Dvije se veličine nazivaju izravno proporcionalnim ako je njihov omjer konstantan, odnosno ako je =, gdje je konstantan broj koji se ne mijenja s promjenama

Gaussova metoda (metoda eliminiranja nepoznanica) Dva sustava nazivamo ekvivalentnima (ekvivalentnima) ako im se rješenja podudaraju. Možete prijeći na ekvivalentni sustav koristeći elementarne transformacije