🎙️ 로컬 AI로 만드는 인터뷰 분석기 개발기 – 외부 API 없이 완전 오프라인 구현

def get_optimal_hardware_config():
    """시스템 환경을 자동 감지하여 최적 설정 반환"""
    os_name = platform.system()
    machine_arch = platform.machine()
    cpu_cores = max(1, (os.cpu_count() or 4) - 1)

    if os_name == "Darwin" and machine_arch == "arm64":
        # Mac M1/M2/M3: Metal GPU 활용
        return {
            "engine": "mlx",
            "model_size": "medium"
        }
    elif os_name == "Windows":
        # Windows: NVIDIA CUDA 활용
        return {
            "engine": "faster-whisper",
            "model_size": "medium",
            "device": "cuda",
            "compute_type": "float16"
        }
    else:
        # 기타 환경: CPU 최적화
        return {
            "engine": "faster-whisper",
            "model_size": "medium",
            "device": "auto",
            "compute_type": "int8"
        }

# 핵심 해결책: faster_whisper 임포트 전에 CUDA 경로 강제 등록
if platform.system() == "Windows":
    cuda_bin_path = r"D:\Program Files\NVIDIA\CUDA\v11.2\bin"
    if os.path.exists(cuda_bin_path):
        os.add_dll_directory(cuda_bin_path)
        os.environ["PATH"] = cuda_bin_path + os.pathsep + os.environ.get("PATH", "")

from faster_whisper import WhisperModel  # 이제 정상 작동

@app.post("/api/upload-audio")
async def upload_audio(file: UploadFile = File(...)):
    # 파일 저장을 비동기로 처리
    loop = asyncio.get_event_loop()
    await loop.run_in_executor(thread_pool, lambda: open(file_path, "wb").write(content))
    
    # STT 변환을 별도 스레드에서 실행
    transcribed_text = await loop.run_in_executor(
        thread_pool, lambda: _run_stt(file_path, file.filename, start_time)
    )
    
    # 벡터 DB 저장도 비동기 처리
    await loop.run_in_executor(thread_pool, lambda: save_to_vector_db(safe_text, file.filename))

# 텍스트를 청크 단위로 분할하여 벡터 DB에 저장
text_splitter = RecursiveCharacterTextSplitter(
    chunk_size=500,      # 청크 크기
    chunk_overlap=50     # 겹침 정도
)

# 한국어 특화 임베딩 모델 사용
embeddings = HuggingFaceEmbeddings(
    model_name="jhgan/ko-sroberta-multitask"
)

# ChromaDB에 벡터 저장
vector_db = Chroma.from_texts(
    texts=chunks,
    embedding=embeddings,
    metadatas=metadatas,
    persist_directory="chroma_db"
)

def mask_pii(text: str) -> str:
    """개인정보 자동 마스킹"""
    # 주민등록번호 마스킹
    text = re.sub(r'(\d{6})[-]\d{7}', r'\1-*******', text)
    # 전화번호 마스킹
    text = re.sub(r'(010)[-]\d{4}[-]\d{4}', r'\1-****-****', text)
    return text

def extract_interviewee_name(text: str) -> str:
    """LLM으로 인터뷰 대상자 이름 추출, 실패 시 순번 반환"""
    global _interviewee_counter
    _interviewee_counter += 1

    try:
        llm = Ollama(model="exaone3.5:7.8b", temperature=0)
        answer = llm.invoke(
            f"""아래 인터뷰 텍스트에서 인터뷰 대상자(피면접자)의 이름만 추출하세요.
이름이 명확히 언급된 경우에만 이름을 반환하고, 불확실하면 반드시 'UNKNOWN'만 반환하세요.
다른 말은 절대 하지 마세요.

텍스트:\n{text[:1000]}"""
        )
        name = answer.strip().replace("'", "").replace('"', "")
        if name and name != "UNKNOWN" and len(name) <= 10:
            return name
    except Exception:
        pass

    return f"interviewee_{_interviewee_counter}"

# STT 진행률을 실시간으로 표시
for segment in segments:
    progress_percent = (segment.end / total_duration) * 100
    elapsed_time = time.time() - start_time
    remaining_time = (total_duration - segment.end) * (elapsed_time / segment.end)
    
    print(f"진행률: {progress_percent:5.1f}% | "
          f"경과: {elapsed_time:4.1f}초 | "
          f"남은 시간: {remaining_time:4.1f}초")

@echo off
call .\venv\Scripts\activate
start "FastAPI Server" cmd /k "uvicorn main:app --reload"
start "ngrok" cmd /k "ngrok http 8000"
start "Streamlit Client" cmd /k "streamlit run client/app.py"
start "Cloudflared" cmd /k "cloudflared tunnel --url http://127.0.0.1:8501"