나비고기과는 농어목에 속하는 조기어류의 한 과로, 전 세계의 열대 및 아열대 해역, 특히 산호초 지대에 널리 분포한다. 이름에서 알 수 있듯이 나비처럼 화려한 색채와 무늬를 지니고 있어 수중 생태계에서 가장 눈에 띄는 어종 중 하나다. 몸은 옆으로 매우 납작하며 전체적으로 원반형에 가까운 타원형을 띤다. 영어로는 'Butterflyfish'라고 불리며, 이는 이들이 산호 사이를 유영하는 모습이 꽃 사이를 날아다니는 나비를 연상시키기 때문에 붙여진 이름이다.
이들의 가장 큰 외형적 특징은 선명한 색상과 독특한 줄무늬다. 특히 많은 종이 눈을 가로지르는 검은색 띠를 가지고 있으며, 몸 뒷부분이나 꼬리 부근에는 눈처럼 보이는 가짜 눈, 즉 안점이 있는 경우가 많다. 이는 포식자에게 머리의 위치를 혼동하게 하여 공격 방향을 속임으로써 생존율을 높이는 진화적 전략이다. 입은 작고 앞으로 돌출되어 있으며, 이빨은 가늘고 촘촘하여 산호초 틈새에 숨어 있는 작은 먹이를 쪼아 먹기에 적합하게 발달했다.
나비고기과는 주로 주행성 물고기로, 낮 동안 산호초 주변을 활발히 돌아다니며 먹이 활동을 한다. 먹이 습성은 종에 따라 다양하지만, 대개 산호의 폴립, 갯지렁이, 작은 갑각류 등을 섭취한다. 일부 종은 산호 폴립만을 먹는 매우 특화된 식성을 가지기도 하며, 이러한 종들은 해당 지역 산호초의 건강 상태를 가늠하는 중요한 지표종으로 여겨진다. 번식기나 일상생활에서 쌍을 이루어 다니는 경우가 많으며, 일부 종은 평생 동안 단일한 짝과 함께 지내는 일부일처제 특성을 보이기도 한다.
전 세계적으로 약 12속 120여 종이 알려져 있으며, 인도-태평양 해역에서 가장 높은 종 다양성을 나타낸다. 가장 대표적인 속은 나비고기속(Chaetodon)으로, 이 과의 절반 이상의 종이 여기에 포함된다. 그 외에도 주둥이가 길게 돌출된 긴부리나비고기속(Forcipiger)과 지느러미가 길게 뻗은 두건나비고기속(Heniochus) 등이 대중적으로 잘 알려져 있다. 한국 인근 해역에서도 나비고기, 세줄나비고기 등 여러 종이 발견되는데, 주로 수온이 따뜻한 제주도 및 남해안 일부 지역에 서식한다.
나비고기과는 화려한 외형 덕분에 해수 관상어 시장에서 인기가 높지만, 특정 먹이만을 고집하는 종들은 수조 내 사육이 매우 까다롭다. 또한 이들은 산호초 생태계에 대한 의존도가 매우 높기 때문에 기후 변화로 인한 산호 백화 현상이나 해양 오염에 취약하다. 산호초의 파괴는 곧 나비고기 개체수의 급격한 감소로 이어지므로, 이들의 서식지 보호는 해양 생물 다양성 보존을 위한 필수적인 과제다.