Як свідчать дослідження науковців, заселення людиною території між річками Прут і Дністер, де знаходиться село Щербинці, відноситься до найдавніших часів. Кам’яні знаряддя праці прадавньої людини (рубила, скребла, сокири, зроблені з твердого каменю – кремнію), знайдені на заході та сході села. Були знайдені сокири з просвердленими дірками для держака, це наводить на думку, що люди кам’яного віку перебували на цих стоянках тривалий час.
Сучасне село Щербинці знаходиться на сьомій терасі річки Прут за 19 км на північ від районного центру – міста Новоселиці. Найближча залізнична станція «Мамалига» за 13 км від села. Наші сусіди: на півночі село Форосна, на сході – Костичани, на заході – Берестя, на півдні село Черлена.
Вперше село згадується в документах ХVI ст.. Назва його походить від слова «щерба», оскільки село має форму зазубрини. Перші переселенці – це втікачі, селяни – кріпаки переважно із західної України, частково із Молдавії.
Тут поширені прізвища Антонюк, Кіцен, Вакарчук, Гуцуляк. Дані прізвища поширені на Коломиївщині, Буковині і в інших місцях на землях Галичини.
Прізвища перших власників землі майже не збереглося. Відомі лише прізвища господарів землі 19ст. Це Одоржуховський Євгерій, Одоржуховський Костантин, Баранкін Сергій, вони володіли і кращими будівлями в селі.
Важким було життя селян. Не маючи можливостей вибратись з нужди, спокушені казками про заокеанські заробітки, залишаючи свої сім’ї, відправлялися за океан, сподіваючись там знайти своє щастя. Тільки в 1912 році на заробітки виїхало 20 чоловік. Та своєю важкою працею вони примножували багатства тамтешніх господарів, залишаючись самі ще більше злидарями ніж раніше. Таким був Бідяк Андрій, Сандін Максим, Чорний Микола, Лук’янюк Гнат та інші. З часом одні повернулися назад, а частина залишилася там за океаном.
В 1918 році село було окуповано боярською Румунією. Жителям села заборонялося розмовляти українською мовою. Навчання в школі велося румунською мовою.
В 1940 році село було звільнено від боярської Румунії і увійшло 7 серпня 1940року до новоствореної Чернівецької області, яка в тому же році була воз’єднана з Україною.
Нове життя було перерване віроломним нападом німецько-фашистських загарбників. В цій боротьбі з 1941 року брали активну участь і жителі села Щербинці. За чотири роки Великої Вітчизняної війни з села мобілізовано 200 чоловік. З них не повернулося рівно половина. В 1967 році на вшанування пам’яті полеглих односельців споруджено в центрі села пам’ятник загиблим і зниклим безвісти. Їх прізвища викарбувані на гранітних плитах.