南开学校滥觞于著名教育家严修（字范孙）开办的严氏家馆。1904年，严氏家馆和王氏家馆合并，正式成立“私立中学堂”，校舍仍在严宅。是年冬，校名改为“私立敬业中学堂”。1905年，又改为“私立第一中学堂”。1906年，津绅郑菊如将天津西南水闸旁十余亩空地捐助学校。因此地位于德国人汉纳根开设的大广地皮公司界内，德国人不肯相让，后经交涉，遂将郑氏所捐之地换成电车公司旁一块空地。这片空地位于天津城西南的开洼地带，有“南开洼”之称。1907年秋，学校由严宅迁入新校舍，校名因所在地名之故，改称“私立南开中学堂”。这也是南开系列学校均以“南开”为校名的由来。
虽然学校因地处“南开洼”而得名，但乐观的南开人却赋予了“南开”新的解释。“南开，难开，越难越开！”张伯苓老校长曾多次用这句话激励南开师生迎难而上、勇往直前，体现了南开人苦干、实干、拼命干的百折不挠精神。
新中国成立后，南开大学进入了新的发展阶段。1950年，南开大学学生会给毛泽东主席写了一封热情洋溢的信，希望毛主席为南开题写校名。毛主席很快回信，并题写了好几幅“南开大学”，嘱托同学们挑选一幅最满意的使用。同学们经过仔细挑选，最终确定了现在使用的这幅题名。