일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | ||||
4 | 5 | 6 | 7 | 8 | 9 | 10 |
11 | 12 | 13 | 14 | 15 | 16 | 17 |
18 | 19 | 20 | 21 | 22 | 23 | 24 |
25 | 26 | 27 | 28 | 29 | 30 | 31 |
- 통합 개발
- Reinforcement Learning
- MAML
- 온폴리시
- Concurrency Control
- 병행성 제어
- 전역 인터프리터 락
- Off-policy
- 중요도 샘플링
- 인터프리터 락
- Maximazation bias
- Meta Learning
- Control variate
- Interpreter Lock
- Importance sampling
- Python Interpreter Lock
- 도커 텐서보드 연결
- n-step
- Tree backup
- 지속적 개발
- 오프폴리시
- Maximum entropy
- Double learning
- Few-shot learning
- docker tensorboard
- Soft Actor-Critic
- Actor-Critic
- Global Interpreter Lock
- 강화학습
- 파이썬 인터프리터 락
- Today
- Total
HakuCode na matata
[KOCW-1] 선형성의 정의 및 1차 연립방정식 의미 본문
포스팅에 앞서 이 게시글은 Reference의 contents를 review하는 글임을 밝힌다.
「선형성(Linearity)이란?」
선형성의 정의는 '직선처럼 똑바른 도형, 또는 그와 비슷한 성질을 갖는 대상'을 말한다. 이는, 대수학에서 '직선의 성직을 가지는 식 또는 연산'을 의미한다.
이러한 선형성을 갖기위해서는 다음과 같은 조건들을 모두 만족해야한다.
「선형성의 판별조건」
1. 중첩의 원리(Superposition)
2. 동질의 원리(Homogeneity)
3. 원점 통과
위와 같은 조건들을 모두 만족해야 '선형성'을 갖는다고 할 수 있다.
「행렬(Matrix)이란?」
행렬은 '수 또는 다항식 등을 직사각형 모양으로 배열한 것'으로, 이때 가로줄을 행(Row), 세로줄을 열(Column)이라고 부른다. 행렬은 '2차원 배열'이라고 할 수 있으며, 선형성과 관련하여 '선형성이 존재한다'라는 말은 곧 '행렬표현이 가능하다'라고 해석할 수 있다.
「행렬의 연산」
행렬의 덧셈과 뺄셈은 단순하다. 각 위치의 원소들 간의 연산을 진행하면 된다.
하지만, 행렬의 곱셈과 나눗셈은 단순하지 않다. 피연산자 중에서 첫번째 연산 대상(행렬A)의 i행과 두번째 연산 대상(행렬B)의 i열 간의 연산 결과가 결과행렬(행렬AB≠BA)이기 때문이다.
행렬의 곱셈, 나눗셈에 대한 결과행렬의 특성은 다음과 같다.
「항등원(Identity element)이란?」
대수학에서, 항등원이란 임의의 수 A에 대하여 어떤 수를 연산했을 때 처음의 수 A가 되도록 만들어 주는 수를 말하는데, 행렬의 연산에서는 처음의 행렬A를 만들어주는 행렬을 말한다.
또한, 행렬의 최좌측상단부터 최우측하단까지 이르는 대각선상에 위치하는 원소들이 '1'이고 나머지 원소들이 '0'인 행렬을 단위행렬(Unit matrix) 또는 항등행렬(Identity matrix)라고 부르는데, 이름에서도 알 수 있다시피 단위행렬은 행렬의 곱셈에서 모든 행렬에 대한 항등원이 될 수 있다.
추가적으로 이러한 성질을 가진 단위행렬은 연산에 있어서 교환법칙이 성립한다.
「역원(Inverse element)이란?」
역원이란 두 원소(A, B)를 연산한 결과가 항등원(E)일 때, 한 편(A 또는 B)에 대하여 다른 편(B 또는 A)을 이르는 말이다.
덧셈에서의 반수(양수↔음수, 0↔0)와 곱셈에서의 역수를 일반화한 개념이다.
이는 행렬에서 '역행렬'으로 불리며, 정사각행렬의 경우에는 교환법칙이 성립하지만, 그렇지 않은 경우(직사각행렬)에는 교환법칙이 성립하지 않는다.
역행렬을 구하는 공식은 다음과 같으며, 이는 2×2 정사각행렬에 대해서만 사용가능한 식이다. 다른 형태의 행렬에 대해서는 '가우스-조던 소거법', '전치행렬, 소행렬, 여인자를 활용한 방법' 등이 있지만, 여기서는 생략하도록 한다.
「행렬의 표현」
행렬의 표현은 '행 벡터'와'열 벡터' 둘 다의 형태로 표현이 가능하다.
하지만, 앞으로 '행 벡터'보다는 '열 벡터'의 형태로 주로 표현할 예정인데, 이는 '열 벡터'의 형태가 '선형 결합'을 표현하는 형태로서 더욱이 적합하기 때문이다.
선형결합
선형결합 또는 일차 결합은 벡터들을 스칼라배와 벡터 덧셈을 통해 조합하여 새로운 벡터를 얻는 연산을 말한다.
이는 선형연립방정식으로 풀어낸 해와 다소 다른 의미를 갖는다.
연립방정식의 해는 '두 방정식(함수)의 교차점'을 의미한다. 이러한 연립방정식의 해는 주로 '행 벡터' 형식의 연산을 지향한다.
그러나, 선형결합의 해는 '벡터의 계수'의 의미로 확장하여 생각할 수 있다. 따라서 이러한 선형결합의 해는 주로 '열 벡터' 형식의 연산을 지향한다.
벡터의 계수에 대한 설명은 추가적으로 설명해야할 개념들이 많기때문에 나중으로 미루도록하고 우선은 넘어가자.
즉, 벡터간 연산을 표현하기에 더욱 적합한 표현형태가 '열 벡터'방식이기 때문에 우리는 '열 벡터'의 형태로 행렬을 표현할 것이다.
이밖에도 행렬의 표현은 다양하고, 이에 대하여 미리 알아두도록 하자.
「전치행렬(Transpose matrix)이란?」
전치행렬은 행과 열을 교환하여 얻는 행렬이다. 즉, 주대각선을 축으로 하는 반사 대칭을 가하여 얻는 행렬이다.
앞으로 전치행렬을 활용하여 행렬연산을 진행하는 경우가 많으니 알아두도록 하자.
「벡터(Vector)란?」
벡터는 방향과 크기를 가진 요소로서, 선형대수학에서의 벡터는 벡터 공간의 원소를 일컫는다.
벡터(벡터공간)의 내적
보통 내적은 벡터의 방향이 얼마나 일치하는 지의 용도로 쓰인다. 이는, 한 벡터의 다른 벡터에 대한 영향력을 투영(Projection, 사영)시켜 확인할 수 있다. 또한 내적을 이용해 노름(Norm), 즉 '길이'를 정의할 수 있으며, 이는 벡터 사이의 거리나 벡터의 크기를 논할 수 있게 한다.
벡터의 내적공식은 다음과 같다.
함수의 내적(Hilbert space)
벡터와 마찬가지로 함수의 내적 역시, 한 함수의 다른 함수에 대한 영향력을 투영시켜 확인할 수 있다.
「가우스 소거법(Gauss elimination)과 역행렬의 해석」
가우스 소거법은 연립일차방정식을 풀이하는 알고리즘으로서, 행렬식과 역행렬 계산에 응용되기도 한다.
설명을 위한 예시로, 원소 [1, 2, 4, 5]로 구성되어있는 행렬 A와 [x, y]로 구성되어있는 행렬 B가 있다.
이를 예시로 가우스 소거법을 활용한 연립방정식의 해와 선형결합의 해로서 역행렬을 구해보려한다.
우선, 가우스 소거법에 의해 선형연립방정식의 해를 역행렬로 구하는 식은 다음과 같이 전개할 수 있다.
앞서 언급한 바와 같이 연립방정식의 해는 '두 함수(여기서는, 선) 교차점'으로 해석이 가능하며, 교차점은 (3, 6)이다.
다음으로는 가우스 소거법에 의한 선형결합의 해를 구하는 식은 다음과 같이 전개할 수 있다.
이 역시, 앞서 언급한 바와 같이 선형결합의 해는 '벡터의 계수'로 해석이 가능하다고 할 수 있고, 계수는 (3, 6)이다.
「마무리」
선형성이란 '직선의 성질'을 뜻하고 이를 갖는 도형이나 식이 존재한다.
이러한 선형성을 갖는 식을 찾고자 할 때 필요한 선형성 판별조건은 '중첩의 원리', '동질의 원리', '원점 통과' 등이 있다.
행렬이란 행과 열로 표현된 '2차원 배열'이다.
행렬의 연산은 '가(加, +)'과 '감(減, -)'는 같은 행렬크기를 갖는 행렬에 한해 해당 위치에 대응되는 원소간 연산이고, 승(乘, ×)과 제(際, ÷)는 각 순번의 첫번째 행렬의 행과 두번째 행렬의 열끼리 대응시켜 진행한다.
항등원과 역원에 대해서는, 항등원은 곱하여 자기 자신이 나오게하는 원소이고 행렬에서는 단위 행렬을 뜻한다.
역원은 곱하여 항등원이 나오게하는 원소이고 행렬에서는 역행렬을 뜻한다.
행렬의 표현은 '행 벡터' 방식과 '열 벡터' 방식이 있지만, 앞으로 우리는 '선형결합' 표현에 적합한 '열 벡터' 방식을 주로 활용할 예정이다.
전치행렬은 원래 행렬에서 각 원소의 행과 열의 위치를 전환하여 생성한 행렬을 뜻한다.
벡터는 방향과 크기를 가진 값이다.
가우스 소거법은 연립일차방정식을 풀이하는 알고리즘이다.
「참고」
https://www.youtube.com/playlist?list=PLSN_PltQeOyjDGSghAf92VhdMBeaLZWR3
2013 2학기 선형대수[이상화 교수]
선형대수는 행렬을 이용하여 선형적인 문제를 해결하는 수학 분야이자, 전기/전자/컴퓨터공학의 원리를 표현하는 핵심적인 이론이다. 단순히 행렬의 연산만을 다루는 것이 아니라, 공학적인 문
www.youtube.com
'Mathematics > Linear Algebra' 카테고리의 다른 글
[KOCW-6] 영벡터공간과 해집합 (1) | 2021.01.09 |
---|---|
[KOCW-5] 벡터공간과 열벡터공간 (0) | 2021.01.08 |
[KOCW-4] 역행렬과 전치행렬 (0) | 2021.01.07 |
[KOCW-3] LU 분해 (0) | 2021.01.03 |
[KOCW-2] 1차 연립방정식과 가우스 소거법 (0) | 2021.01.02 |