ITPE * JackerLab

개요AI 환각(Hallucination)은 인공지능 모델이 실제 사실과 다른 정보나 존재하지 않는 내용을 그럴듯하게 생성하는 현상을 의미한다. 특히 대규모 언어 모델(LLM)과 생성형 AI의 발전과 함께 중요한 이슈로 부각되고 있으며, 신뢰성과 안전성 측면에서 핵심적인 연구 주제로 다뤄지고 있다. 기업과 공공기관에서 AI 도입이 확대됨에 따라 환각 문제는 실질적인 리스크로 인식되고 있다.1. 개념 및 정의AI 환각은 모델이 학습 데이터의 패턴을 기반으로 확률적으로 텍스트를 생성하는 과정에서 사실 검증 없이 잘못된 정보를 생성하는 현상이다. 이는 모델이 "이해"가 아닌 "확률적 생성"을 수행하기 때문에 발생한다.환각은 완전히 허구의 정보를 만들어내는 경우뿐 아니라, 실제 정보를 왜곡하거나 부분적으로 틀린 ..

개요컴퓨터 비전(Computer Vision)은 이미지와 영상 데이터를 분석하여 의미 있는 정보를 추출하고 이해하는 인공지능(AI) 기술이다. 딥러닝과 GPU 발전으로 급격히 성장했으며, 자율주행, 의료 영상 분석, 보안 시스템 등 다양한 산업에서 핵심 기술로 활용되고 있다. 특히 CNN(Convolutional Neural Network)의 등장 이후 컴퓨터 비전의 정확도는 인간 수준에 근접하는 성과를 보이고 있다.1. 개념 및 정의컴퓨터 비전은 디지털 이미지나 비디오에서 객체, 패턴, 특징을 인식하고 해석하는 기술이다. 인간의 시각 시스템을 모방하여 컴퓨터가 시각 정보를 이해하도록 만드는 것이 목적이다.주요 기능으로는 이미지 분류(Image Classification), 객체 탐지(Object Det..

개요LSTM(Long Short-Term Memory)은 순환 신경망(RNN)의 한계를 개선하기 위해 고안된 딥러닝 모델로, 시계열 데이터나 자연어 처리에서 장기 의존성(Long-term dependency)을 효과적으로 학습할 수 있도록 설계되었다. 1997년 Hochreiter와 Schmidhuber에 의해 제안되었으며, 현재까지도 음성 인식, 번역, 금융 예측 등 다양한 분야에서 핵심 모델로 활용되고 있다.1. 개념 및 정의LSTM은 기존 RNN이 갖는 기울기 소실(Vanishing Gradient) 문제를 해결하기 위해 게이트(Gate) 구조를 도입한 신경망이다. 입력, 출력, 망각 게이트를 통해 정보의 흐름을 제어하며, 필요한 정보는 유지하고 불필요한 정보는 제거하는 방식으로 장기 기억을 가능하..