Du solltest deinen Bootloader (vermutlich lilo oder grub) nochmal neu installieren. Am einfachsten von einer live CD aus.
Wenn du willst kann ich dir die einzelnen Schritte aufschreiben, musst du mir nur sagen welchen Bootloader du verwendest / welche Linux Distribution und was für eine Festplatte (PATA, SATA, SCSI, USB) und obs die erste oder ne weitere Platte ist.