본 연구는 가정의 사회경제적 지위(SES)가 형식 및 응용 수학 자기효능감과 수학적 추론 및 21세기 수학 자기효능감에 미치는 영향을 살펴보고, 이러한 관계가 학생이 인지한 수학수업의 질 및 사교육 참여 여부에 따라 조절되는지 분석하고자 하였다. 이를 위해 우리나라 학생들의 PISA 2022 수학 응답 자료를 활용하였으며, 두 개의 조절 변수를 포함한 삼원상호작용 분석을 실시하였다. 연구결과는 다음과 같다. 첫째, 학생 SES는 두 종류의 수학 자기효능감을 정적으로 유의하게 예측하였다. 둘째, SES와 형식 및 응용 수학효능감의 관계에 있어 학생이 인지한 수학수업의 질과 사교육 참여 여부에 따른 상호작용 효과가 확인되었다. 사교육에 참여하는 집단에서는 학생이 수업의 질을 높게 지각할수록 SES와 수학효능감 간의 관계가 완화된 반면, 사교육에 참여하지 않는 집단에서는 그 관계가 강화되었다. 셋째, 수학적 추론 및 21세기 수학 자기효능감에서는 SES와의 관계에서 두 조절 변수의 효과가 유의하지 않았다. 넷째, 학생들이 인지하는 수학수업의 질과 관련된 요인을 추가 분석한 결과, 교사의 지원, 질서 있는 학급 분위기, 인지 활성화 전략의 활용, 긍정적인 교사-학생 관계가 수업의 질을 긍정적으로 인식하는 데 영향을 미치는 것으로 밝혀졌다. 본 연구는 가정배경이 수학 자기 효능감에 미치는 영향을 조절하는 데 있어 학교 수업 요인의 중요성을 실증적으로 보여주었다는 점에서 의의가 있으며, 이를 바탕으로 시사점을 논의하였다.