1. 모든 것의 시작: MLP와 그 한계가장 기본적인 신경망인 **MLP(Multi-Layer Perceptron)**는 뉴런이 층층이 쌓여 있고, 한 층의 모든 뉴런이 다음 층의 모든 뉴런과 남김없이 연결된(fully-connected) 구조입니다. 입력은 1차원 벡터 형태로, 각 속성이 서로 독립적인 정형(tabular) 데이터에는 잘 맞습니다.문제는 이미지처럼 공간적 구조를 가진 데이터를 넣을 때 발생합니다.공간 구조의 소실: 28×28 이미지를 784개의 숫자로 펼쳐버리면, 어떤 픽셀이 어떤 픽셀 옆에 있었는지에 대한 정보가 사라집니다.파라미터 폭발: 입력이 784개, 은닉층이 1,000개라면 연결 수만 약 78만 개에 달합니다. 학습이 매우 무거워집니다.위치 의존성: 입력의 i번째 자리가 특정 ..
0. 큰 그림: Rule-based → Machine Learning → Deep Learning바나나 하나를 예로 들어보겠습니다.Rule-based (통계 기반): 사람이 "길다, 노랗다, 약간 휘었다"라는 규칙을 직접 정의해서 바나나를 판별Machine Learning: 규칙을 사람이 정하는 대신, 데이터로부터 특징(길다/노랗다 등)과 그 조합 방식을 어느 정도 자동으로 찾아냄Deep Learning: 특징 자체를 사람이 정의하지 않고, 여러 층(layer)을 거치면서 모델 스스로 "어떤 특징이 중요한지"까지 학습즉 딥러닝은 여러 개의 층을 쌓아서, 각 층이 점점 더 추상적인 특징을 잡아내도록 만든 모델이라고 볼 수 있습니다. 안경을 여러 겹 겹쳐 쓰면서 점점 더 자세히 사물을 파악하는 것과 비슷한 ..
1. AI의 짧은 역사아래는 주요 흐름입니다.연도사건핵심 내용1956다트머스 회의"Artificial Intelligence"라는 용어가 처음 사용되며 AI 연구가 공식적으로 시작됨1966~731차 AI 겨울ELIZA 등 초기 언어처리 시스템이 기대에 못 미치며 연구 지원 급감1980전문가 시스템 부상규칙 기반 시스템(XCON)이 실무 문제 해결에 활용되며 상업적 가능성 인정1987~932차 AI 겨울전문가 시스템의 유지비용·한계로 투자 재차 축소, 데이터 기반 접근의 필요성 부각1997딥블루 vs 카스파로프규칙 기반 AI가 체스에서 인간 챔피언을 이김2012딥러닝의 부활(AlexNet)이미지넷 대회에서 CNN 기반 모델이 압도적 성능을 보이며 GPU 기반 학습이 확산됨2016알파고 vs 이세돌강화학습 ..
이미지 생서만을 위한 모델보다 성능이 좋을 순 없다. 전용 모델도 각광받고 있다. LLM 이 어떻게 사용되냐.1. 외부 파이프라인 이미 외부 데이터. 많은 데이터를 판단해서 처리하기 위한 파이프라인2. 내부 파이프라인그 회사의 영업비밀 , 고객 정보, 영업 정보 .. 등 사내망 안에 파이프라인 이렇게 2가지가 있다. RAG 예측이 틀리면 거짓말이 됨. -> 거짓말을 활용할 확률이 있고 이게 환각현상 (할루시네이션) 여기에서만 참고해서 답을 해 ~ ! (벡터디비 - 컴퓨터가 이해할 수 있게 임베딩해서 넣어두는 것. )회사 내부 내용을 알려주고 참고해서 아렬줘 지시할 수 있음 -> RAG 모델 자체에 학습시켜버리는 것. 이건 상용 LLM 은 불가능함. 실제로 기업에서는 내부 파이프라인이 더 중요함. LL..
컴퓨터 구조와는 다르게 사람은 뉴런으로 동작한다. 클라우드가 나오면서 사람수준의 학습이 가능해지기 시작했다. -> 딥러닝이 생겨났고 사람의 뇌를 흉내내는 것이 잘 작동하지 않다가, 사로나온 것이 딥러닝 (예측형 AI 가 생겨나기 시작) 2017년도에 말을 잘 알아듣고 흉내내는 건 잘 안 돼. 딥러닝 방식의 한계가 있더라 어텐션 is all you need 라는 논문이 나옴. -> 통째로 삼키고 문법을 스스로 해서 2살 3살 때 중요한 것을 찍은 다음에 학습하는 거를 흉내내는 것. 이 나옴이렇게 접근한 것이 -> 생성형 AI (예측형 ai + 생성형 ai )이걸 구현할 때 잘 맞는 방법론이 agile 방법론이다. 1. Agile 개요왜 필요한가전통적인 방식. -> 요구사항이 setup 되어 있음. 이럴 땐..
