Fastino, GLiNER2.5 공개: 정보 추출의 구간 열거 방식을 경계 예측으로 대체해 계산 비용을 줄였다
기사 3줄 요약
- 1첫 번째 핵심 사실: Fastino가 GLiNER2.5를 출시했다.
- 2이 모델은 모든 가능한 구간을 후보로 만드는 span enumeration을 없애고 개체의 시작·끝을 직접 예측하므로, 개체 길이가 길어져도 계산 비용이 늘지 않는다.
- 3두 번째 핵심 사실: 74M, 194M, 287M 파라미터 크기의 체크포인트 3개가 Apache 2.0 라이선스로 공개됐고, 모두 CPU에서 실행 가능하다.
초등학생도 이해하는 NEWS 설명
GLiNER2.5는 글에서 '누가', '어디서', '누구와' 같은 정보를 찾아 정리해 주는 AI 비서예요.
예전 방식은 문장 속 모든 조각을 전부 후보로 올려놓고 하나씩 확인하는 것과 같아 느렸지만, 새 방식은 '이 정보는 여기서 시작해서 여기서 끝나요'라고 직접 짚어 주는 것과 같아 훨씬 빠릅니다.
그래서 큰 GPU 없이 일반 노트북 CPU로도 실행할 수 있어요.
인사이트 & 시사점
기존 정보 추출 모델은 개체 길이에 따라 후보 구간 수가 급증해 계산 비용이 커지는 것이 구조적 한계였는데, GLiNER2.5는 경계 예측으로 이 한계를 없앴다.
Apache 2.0 라이선스의 CPU 실행 가능 모델을 3개나 제공한 덕분에, GPU 인프라가 없는 개발자도 제로샷 정보 추출 기능을 가볍게 붙일 수 있는 흐름을 만들었다.
용어해설
Fastino가 공개한 정보 추출(IE) 모델이다. 텍스트에서 이름·장소·조직·관계 같은 개체를 찾을 때 시작 위치와 끝 위치를 직접 예측하는 방식을 쓴다. 74M·194M·287M 파라미터의 3가지 크기로 제공되며 Apache 2.0 라이선스로 누구나 사용할 수 있다.
문장 안에서 개체가 될 가능성이 있는 모든 구간(span)을 후보로 나열하는 기존 정보 추출 방식이다. 개체 길이가 길어지면 후보 수가 폭발적으로 늘어나 계산 비용이 커지는 단점이 있다. GLiNER2.5는 이 단계를 제거해 비용을 줄였다.
개체의 시작과 끝 경계를 직접 예측하는 방식이다. 모든 구간을 열거하는 대신 '어디서 시작해 어디서 끝나는지'를 찾으므로 계산 비용이 개체 길이와 무관하다. GLiNER2.5의 핵심 설계 변경점이다.
모델이 학습할 때 한 번도 보지 못한 데이터·과제로 성능을 측정하는 평가 방식이다. GLiNER2.5는 16개 zero-shot 벤치마크의 평균(매크로 F1) 56.17을 기록해 새로운 데이터에 대한 일반화 능력을 보여줬다.