Первые немецкие поселения на Алтае появились в 1890-х гг. Основной причиной переселения немцев на Алтай было малоземелье и высокая стоимость земли в Поволжье и на Украине. Массовое переселение в Сибирь началось в конце XIX- начале ХХ вв. 19 сентября 1906 г. был принят закон "О передаче Кабинетских земель в Алтайском округе в распоряжение Главного управления Землеустройства и Земледелия для образования переселенческих участков", 9 ноября 1906 г. вышел Указ о проведении в России земельной реформы. После принятия этих документов процесс переселения принимает организованный характер.В Кулундинской степи правительство отвело для размещения переселенцев около 60 тысяч десятин земли. Переселенцы получали денежное пособие и ссуду, освобождались от несения государственных повинностей на три года и от налогов на пять лет. Наличие свободной и недорогой земли, льготы привлекли большое количество желающих переехать на Алтай. В Славгородском уезде в 1907 г. было основано 14 немецких поселений, в 1908 г. - 16, в 1909 г. - 16. К 1914 г. немецкое население в Славгородском уезде составляло более 17 тысяч человек.
Село Ананьевка было образовано в 1912 г. переселенцами с Украины. Существует легенда, согласно которой первыми на это место переселились три семьи из под Харькова. Первыми переселенцами были братья Андрей и Яков Изааки и их сестра с мужем. Всех трех жен переселенцев звали Аннами, поэтому деревню назвали Ананьевкой.
Так как естественных источников воды в округе не было, переселенцы первым делом копали колодцы. Колодцы были глубиной 4-7 м. Чтобы земля не осыпалась, сразу ставили деревянный сруб. В течение короткого времени в Ананьевку прибыли переселенцы из Крыма и Оренбурга. Все они были меннонитами, не слишком богатыми, но достаточно обеспеченными. По словам Давида Мартенса государство давало переселенцам землю бесплатно, в "вечное пользование", по 8-12 га на семью. Основной причиной переселения было малоземелье на Украине. Часть семей поехала дальше, на Амур, но многие остались, так как земля здесь была хорошая.
Первые дома были построены из пластов земли, которые сверху обмазывались глиной. Дома были углублены в землю, и, несмотря на суровые зимы, в них было тепло. Андрей Изаак сообщил, что до революции в Ананьевке было одно каменное здание - молитвенный дом. При советской власти его переделали под клуб, а затем сломали. В 1994 г. верующим отдали под молитвенный дом здание бывшей котельной.
Первый магазин в селе открыл Иван Завацкий, он же организовал и маслозавод. Цены в магазине были следующие: 1 пуд зерна - 25 копеек, 1 метр сатина - 6 копеек. Иван Завацкий был к тому же хорошим столяром и плотником.
Во время первой мировой войны несколько человек из Ананьевки были мобилизованы в царскую армию, в частности, Корней Фризен, Абрам Мартенс, Иван Корнельзен.
В 1929 г. началась массовая эмиграция в Америку. Софья Тевс, 1918 г.р., вспоминает, как ее семья, в числе многих, продала все имущество и поехала в Москву. В Москве они прожили три месяца, границу закрыли, и после того, как кончились деньги, они вынуждены были вернуться назад и жить в заброшенном доме. Зара Корнеевна Фризен, 1909 г.р. сообщила, что в 1929 г. два ее брата уехали в Канаду. Первое время они присылали письма и посылки, но затем связь оборвалась и, что стало с ее братьями, она не знает.
Уезжать собиралась и семья Давида Мартенса, но не успела, так как закрыли границу. Много семей из Ананьевки уехало в Америку, Канаду, Бразилию, Китай, но многие и вернулись. В 1931 г. создается колхоз, в который вошли четыре немецкие деревни: Ананьевка, Екатериновка, Марковка и Гришаевка (Григорьевка).
Деревни Гришаевка и Марковка также были основаны в 1912 г. В этих небольших деревнях не было ни школы, ни больницы, ни магазина, а за всем необходимым ездили в Ананьевку или Златополь за 8 км. По воспоминаниям Давида Мартенса, родившегося в д. Марковка в 1932 г., в 1930-40-е гг. жили очень бедно, в основном за счет своего хозяйства, денег на покупку товаров не хватало. Вместо сахара в пищу употребляли "сладкий корень" (солодку), варили сироп из моркови и тыквы. За солью ездили в село Новополтава, за 30 км. Там находилось соленое озеро, на дне которого слоем 5-10 см располагались кристаллы соли. Ее промывали, очищали от примесей, толкли, после чего соль была готова к употреблению. Дети также ловили сусликов, снимали с них шкурки и сдавали заготовителю. На вырученные деньги покупали ткани и товары.
До войны переселенцев с Волги было мало. В Марковке, которая насчитывала 30 дворов, проживало всего четверо поволжских немцев: одна женщина с ребенком и две девушки. А во время войны депортированных из Поволжья было много. Их везли в вагонах для скота до Кулунды, а потом распределяли по деревням. Они жили в семьях или в заброшенных домах, а после войны стали строить собственные дома.
В 1950-е годы начинается укрупнение колхозов. Весной 1952 г. жители Марковки переехали в Ананьевку. В 1953 г. переехали жители Гришаевки. В Ананьевке стали строить новые дома. Колхоз давал ссуду на строительство дома, лес для строительства возили из Ключей. В 1956 г. стала застраиваться улица Восточная, где жили в основном молодожены.
До середины 1980-х годов Ананьевский совхоз был процветающим хозяйством. Здесь была молочная ферма, овцеферма, мельница, маслобойка, ремонтные мастерские, детский сад, школа, клуб, больница, магазины. Были построены пекарня, кирпичный завод, колбасный цех, в д. Екатериновка открыта звероферма, где выращивали песцов, норок, чернобурых лисиц. Звероферма и овцеферма закрыты, молочная ферма продана за долги. С 1993 г. не платят заработную плату, некоторые продукты (хлеб, муку, сахар, мясо, подсолнечное масло, корм для скота) можно взять в долг. Этих продуктов не хватает, большинство людей живет своим подсобным хозяйством. Тяжелое экономическое положение является основной причиной эмиграции в Германию. В настоящее время 60 % немцев из Ананьевки уже уехали, сюда же приезжают немцы, русские, украинцы из Казахстана. Вынужденных переселенцев очень много, они живут в детском саду, в приспособленных помещениях. Нынешний глава Администрации Ананьевки, Андрей Давыдович Винс, эмигрировать пока не собирается, но считает, что возродить немецкие деревни можно только при стабилизации экономической ситуации в России и при материальной поддержке Германии.