La naştere a primit numele de Rolihlahla Mandela din partea tatălui său Nkosi Mphakanyiswa Gadla Henry. În Xhosa, una dintre limbile oficiale din Africa de Sud, Rolihlahla înseama „a rupe o creangă din copac”, dar, în termeni populari, înseamnă „cel care crează probleme”.
Numele de „Nelson” i-a fost dat prima dată în şcoala generală de către o profesoară, Domnişoara Mdingane în prima zi de şcoala din satul Qunu. Nu se ştie cu exactitate de ce a primit acest nume, însă era o obişnuinţă în acea perioadă cei din Africa de Sud să primească nume englezeşti pentru a le fi mai uşor la rostit coloniştilor britanici.
Locuitorii din Africa de Sud i se adresează lui Mandela pe numele de „Mandiba” – numele clanului regal Thembu căruia îi aparţine. Madiba a fost numele unui conducator Thembu care a domnit in secolul XIX peste regiunea Transkei, în sud-estul ţării. Atribuirea numelui de Madiba este un semn de respect şi afecţiune.
Mulţi dintre sud-africani îi spun simplu „Tata” (ca şi în română, termenul înseamnă „tată” în limba Xhosa), deoarece Mandela este considerat părintele democraţiei în această ţară.
Limba Xhosa mai oferă un termen de afecţiune pentru Mandela. „Khulu” este versiunea scurtă a cuvântului „uBawomkhulu” care se traduce drept „bunic”. Potrivit Fundaţiei Nelson Mandela, Khulu se poate interpreta şi ca „măreţ, suprem”.
Unul dintre numele mai puţin cunoscute ale lui Mandela este cel priimt la 16 ani. Atunci el a participat ca toţi ceilalţi băieţi Xhosa la o ceremonie de iniţiere. Atunci a primit numele de „Dalibhunga”, termen ce înseamnă „creatorul sau fondatorul consiliului”. Însă, atunci când Mandela era salutat în comunitatea natală termenul corect este cel de „Aaah! Dalibhunga”.