Установи диапазон частот шума. Впиши соответствующий фильтр
http://ru.wikipedia.org/wiki/Линейная_фильтрация например покури.
Ну и ключевое слово для поиска "ЦОС" (цифровая обработка сигнала - дисциплина такая в ВУЗах есть).
Шум АЦП, как уже говорилось, подавляется игнорированием младших разрядов. Хотя и тут бы можно было провести спектральный анализ снятых данных (для уточнения картины) - делов то.