عرفت المدينة بأسماء عدة عرفها الفراعنة باسم (روبيهوي) وأطلق عليها الآشوريون اسم (رفيحو) وأطلق عليها الرومان واليونان اسم (رافيا) وأطلق عليها العرب اسم رفح، ومما زاد من أهميتها عبر التاريخ مرور خط السكة الحديدية الواصل بين القاهرة وحيفا في أراضيها، وقد اقتلع هذا الخط بعد عام 1967. ولقد تغير اسمها من روبيهوا عند الفراعنة أو رافيهو عند الأشوريين الي الاسم الحالي.