mirror of
https://github.com/nad4-su/meeting-minutes.git
synced 2026-10-11 15:50:13 +09:00
csbaeandClaude Opus 5
4af0a03de5
마이크 한 트랙에 여러 사람이 섞여 들어오는 대면 회의에서 화자를 나눈다. pyannote-segmentation-3.0 + 3D-Speaker CAM++ 를 ONNX Runtime으로 로컬 Next.js 프로세스에서 실행한다. GPU도 파이썬도 필요 없고 오디오가 외부로 나가지 않는다. 실측 (Apple Silicon, 2스레드, 4인 한국어 아닌 샘플 57초): - 처리 1.5초 → RTF 0.03, 실시간의 33배 - 자동 추정은 화자 5명(과다 계수), 참석자 수를 주면 4명(정확) → 참석자 수 입력을 1급 기능으로 노출 구성: - lib/diarization.ts — sherpa-onnx-node 래퍼, 모델 캐시, 참석자 수 힌트 - lib/audio-session.ts — 녹음 중 PCM 조각을 세션별로 누적 (메모리) - api/diarize/chunk — 4초짜리 Int16 PCM 조각 업로드 - api/diarize — 누적 오디오 전체 분석, GET은 모델 설치 여부 확인 - public/pcm-worklet.js — 16kHz Int16 PCM 추출 AudioWorklet - hooks/useDiarization.ts — 수집·분석 상태 관리 - transcript-formatter: assignSpeakers() — 시간 겹침으로 화자 배정. 겹치는 구간이 없으면 라벨을 비운다 (틀린 라벨보다 없는 편이 낫다) - LiveRecorder: 사용 안 함 / 원격 회의 / 대면 회의 3모드 + 참석자 수 - scripts/setup-diarization.mjs — 모델 34MB 내려받기 (npm run setup:diarization) 설계 변경: 롤링 재-diarization 대신 녹음 종료 시 1회 전체 분석. 구간을 잘라 반복하면 실행마다 화자 번호가 달라져 이어 붙일 수 없고, 누적분 재분석은 비용이 회의 길이에 비례해 커진다. 대신 실시간 화자 표시는 없다. 모델은 라이선스와 용량 때문에 저장소에 넣지 않고 gitignore 한다. 테스트 176 → 184. Co-Authored-By: Claude Opus 5 <noreply@anthropic.com>
39 lines
1.1 KiB
JavaScript
39 lines
1.1 KiB
JavaScript
/**
|
|
* 마이크 오디오를 Int16 PCM 조각으로 잘라 메인 스레드로 넘긴다.
|
|
*
|
|
* AudioContext를 16kHz로 열면 브라우저가 리샘플링해주므로 여기서는
|
|
* float32 → int16 변환과 버퍼링만 한다. 화자 분리 모델이 16kHz 모노를 받는다.
|
|
*/
|
|
const CHUNK_SAMPLES = 16000 * 4 // 4초
|
|
|
|
class PcmCollector extends AudioWorkletProcessor {
|
|
constructor() {
|
|
super()
|
|
this.buffer = new Int16Array(CHUNK_SAMPLES)
|
|
this.offset = 0
|
|
}
|
|
|
|
flush() {
|
|
if (this.offset === 0) return
|
|
const out = this.buffer.slice(0, this.offset)
|
|
this.port.postMessage(out, [out.buffer])
|
|
this.buffer = new Int16Array(CHUNK_SAMPLES)
|
|
this.offset = 0
|
|
}
|
|
|
|
process(inputs) {
|
|
const channel = inputs[0] && inputs[0][0]
|
|
if (!channel) return true
|
|
|
|
for (let i = 0; i < channel.length; i++) {
|
|
const clamped = Math.max(-1, Math.min(1, channel[i]))
|
|
this.buffer[this.offset++] = clamped * 32767
|
|
if (this.offset === CHUNK_SAMPLES) this.flush()
|
|
}
|
|
|
|
return true
|
|
}
|
|
}
|
|
|
|
registerProcessor('pcm-collector', PcmCollector)
|