분류 전체보기

회사에서 뭐 사업을 따려면 AWS 자격증이 필요한대, 최소 인원수가 있어 나보고도 따라고 한다. 그래서 뜬금없지만 AWS 자격증에 도전하게 되었다. 여기는 AWS에 대해 아는게 별로 없는 새내기의 공부일지라고 보면 된다. 제목에 있는 일자들은 심심해서 달아둔거니 별다른 의미없이 봐주면 될 거 같다. Data Related1. Amazon DynamoDB완전관리형 NoSQL 데이터베이스로, 대규모 애플리케이션을 위한 밀리초 미만의 지연 시간을 제공한다. 자동으로 확장되며, 높은 처리량과 낮은 지연 시간의 성능을 유지할 수 있다. 또한, 사용자가 기본 하드웨어나 데이터베이스 소프트웨어를 관리할 필요가 없다. 수백만 명의 유저가 동시에 접속해도 밀리초 미만의 응답 유지Auto Scaling을 통해 트래픽 급..

화자 구분 고도화 관련 내용을 지난 포스트에서 다루었으며, 이후 화자 구분을 실질적으로 적용해보며 겪고 있는 문제점들을 여기서 다뤄본다. API를 이용한 화자 구분 보다는 성능이 많이 좋아지긴 했지만, 여전히 개선해야 할 부분들이 여럿 있다. 그러면 바로 시작해보자 0. 실제 API 보다 성능이 좋아졌는가 ?화자 구분 고도화 파이프라인은 다음과 같으며, 각 단계별로 개선할 수 있어 보이는 부분들을 고도화하여 로컬에서 사용 가능한 화자 구분 모델을 구축했다(Segmentation, Embedding 모델은 Pyannote과 Wespeak 모델 사용, 이전 포스트들에서 소개함).* 아직 청크별 화자 연결이 남아 있고, 이 과정을 진행하면서 발견한 문제점이라, 이 부분은 아래에서 추가적으로 다룬다. 잡음이 ..

LLM 모델들 중 태스크별로 어떤 모델의 성능이 좋은지 한 눈에 볼 수 있는 사이트들을 소개한다. 1. Aideraider.chat에서 사용하는 코딩 어시스턴트 모델들의 벤치마크주로 code editing, refactoring, bug fixing 등 실제 Git 코드베이스에 대한 조작 테스트를 다룸 평가 기준은 PR 자동 생성, 코드 이해력, 편집 능력 등이 있음 https://aider.chat/docs/leaderboards * 실제 사용 환경 (Git 기반 코드 편집)에 가까운 테스트 환경이지만, 일반적인 알고리즘 문제 해결 능력과는 다소 거리가 있고, 범용적이기 보다는 aider.chat의 사용 사례 위주이다. 2. LiveBench자동화된 실시간 벤치마크 플랫폼다양한 코드 문제 (Pytho..

해당 포스트에서는 CGI, Fast CGI가 무엇인지 설명하고, Fast CGI 구현 방식 중 하나인 Python FastCGI 모듈에 대해 살펴본다. 서버와 웹 서버 관련해서는 이전에 게시한 포스트 WAS 부분을 참고하자. WAS, NAS, ~aaS 찍먹하기회사 다니면서, 실제 서비스를 제공하기 위해 NLP 이외의 분야들에 대한 공부도 많이 필요하다는 것을 느끼고 있다.여기서는 요즘 가장 많이 듣고 있는 WAS, NAS, ~aaS에 대한 간단한 내용을 정리해cori.tistory.comChap # 01. CGI (Common Gateway Interface)란 ?CGI (Common Gateway Interface)는 웹 서버가 외부 프로그램을 실행하여 HTTP 요청을 처리할 수 있도록 하는 표준 인..

요즘 AI 서비스를 개발하다 보면 다양한 모델들을 사용하는 일이 많다. 문제는 이 모델들이 각자 제공하는 인터페이스나 입출력 형식이 다르다 보니, 사용자 툴이나 프론트엔드에서 직접 다루기 어렵다는 점인데, 이런 문제를 해결하기 위해 등장한 것이 바로 MCP (Model Context Protocol)이다.1. MCP 란 ?MCP는 Model Context Protocol의 약자로, 다양한 기업에서 개발한 인공지능 모델과 사용자 인터페이스(툴) 사이의 표준 규격을 정의한 프로토콜이다. 즉, AI 모델이 사용자와 어떻게 상호작용할지에 대해 정의한 약속이라 볼 수 있으며, 다음과 같은 목적을 가진다. 호환성 향상: 하나의 인터페이스에서 여러 AI 모델을 쉽게 붙일 수 있음상황(context) 공유: 모델이 사..

팀 내 코드 관리를 위해, GitLab을 서버에 설치하게 되었다. 여기서는 Ubuntu OS에 GitLab을 설치하는 방법과, 간단한 명령어들을 소개한다. 0. GitLab이란 ?GitLab은 Git을 기반으로 한 웹 기반 DevOps 플랫폼으로, 소프트웨어 개발의 모든 과정을 하나의 애플리케이션에서 관리할 수 있도록 도와주는 도구이다. 단순한 소스 코드 저장소 역할을 넘어서, 다음과 같은 기능들을 제공한다.버전 관리(Git) - Git을 기반으로 협업과 코드 히스토리를 체계적으로 관리 가능 Merge Request & 코드 리뷰 - 팀원들과 코드 변경 내용을 검토하고 병합 가능 CI/CD 파이프라인 - GitLab 내에서 자동 빌드, 테스트, 배포까지 설정할 수 있음 이슈 트래킹 & 프로젝트 관리..

회의록 서비스 성능 고도화 프로젝트의 일환으로, 이전 포스트에서 설명한 화자 구분 프로세스 중 Post Processing 과정을 여기에 기록한다. Post Processing은 화자 구분 결과값을 후처리하는 역할을 수행하며, 오디오 파일에서의 잡음 필터링, 화자별 순수 발화 추출, 화자 재레이블링, 청크별 화자 대표 임베딩 계산 및 전체 병합하는 부분을 다룬다. 1. 잡음 필터링화자 구분 모델을 적용해보면, 발화 시간이 매우 짧은 구간조차도 특정 화자로 분류되는 경우를 자주 확인할 수 있다. 해당 구간의 오디오를 실제로 들어보면, 대부분은 단순한 추임새나 잡음에 가까운 경우가 많으며, 이러한 발화는 전체 대화 흐름에서 중요한 정보로 작용하지 않는 경우가 대부분이다. 또한 발화 길이가 짧을수록, 화자 구..

회의록 서비스 성능 고도화 프로젝트의 일환으로, 이전 포스트에서 설명한 화자 구분 프로세스 중 Speaker Embedding 적용 과정을 여기에 기록한다. 프로젝트를 진행하며 2가지 임베딩 모델(Wespeaker, Speechbrain)을 사용해 보았으며, 여기서는 두 모델 간 차이점을 비교 분석하고, 임베딩 모델을 화자 구분 파이프라인에 어떻게 적용하는지 설명한다.0. Speaker Embedding 모델프로젝트를 진행하며 2가지 Speaker Embedding 모델을 사용해보았다. 첫 번째 모델은 화자 구분 파이프라인에서 주축을 이루는 Pyannote에서 사용하는 임베딩 모델로, 'Wespeaker/wespeaker-voxceleb-resnet34-LM'이다. ResNet34-LM 모델은 r-vec..

회의록 서비스 성능 고도화 프로젝트의 일환으로, 이전 포스트에서 설명한 화자 구분 프로세스 중 Voice Activity Detection 적용 과정을 여기에 기록한다. 사실, 해당 파트는 허깅페이스에 공개되어 있는 모델을 사용하고 있어 정리할 내용이 많이 없다. 그래서 여기서는 VAD 자체 내용 보다는, VAD를 STT 및 화자 구분에 어떻게 사용하고 있는지 소개하는 내용을 주로 다룬다. 0. VAD 모델VAD는 음성 파일에서 음성 구간이 존재하는 지점을 탐지하는 작업으로, 여러 오픈 소스 모델들이 공개되어 있다. 현재 사용중인 모델은 Hugging Face에 올라와있는 Pyannote 모델이다. Pyannote 에서 화자 구분 파이프라인을 공개해두었는데, 해당 파이프라인을 사용중이기 때문에 다른 모델..

회의록 서비스 성능 고도화 프로젝트의 일환으로, 이전 포스트에서 설명한 화자 구분 프로세스의 가장 앞단에 해당하는, 음성 파일에 대한 Front-end Processing 적용 과정을 여기에 기록한다. 가장 기본적인 주파수 범위 필터링부터, 노이즈 제거, 반향 제거들을 수행해보고, 적용 전-후 오디오 품질이 실제로 개선되었는지 시각화해본다.0. 오디오 시각화오디오 Front-end Processing 처리 전과 후 품질 변화를 비교하기 위해, 오디오 파일을 크게 세 가지 방식으로 시각화한다. 첫 번째는 Waveform(파형) 시각화로, 시간에 따른 오디오 신호의 진폭 변화를 보여준다. 아래 그림은 하나의 오디오 파일을 시간 축에 따라 시각화한 결과로, 사람이 말하는 구간에서는 진폭이 크고 변화가 많은 반..