Фамилия Никотаев — редкая и нестандартная по своему строению. Её основа, Никотай, с большой вероятностью восходит к просторечной форме крестильного имени Никита. В русской народной традиции имя Никита часто сокращали до Ника, а затем наращивали суффиксом -тай, который встречается в других именах и прозвищах (вроде Китай, Косай, Шутай). Такой способ словообразования был характерен для северных и центральных говоров: Никотай — это как бы Ника, увеличенный или адаптированный под местный выговор. Соответственно, Никотаев — «сын Никотая», то есть потомок человека, которого в обиходе звали Никотаем.

Можно рассмотреть и менее вероятную версию: связь с тюркскими корнями. В некоторых тюркских языках есть основа «ник» или «нык» со значением «прочный», «крепкий», а суффикс -тай часто образует имена (например, Алтай, Куртай). Однако для русского уха и грамматики фамилия Никотаев звучит как типичная отчество на -ев, а не как заимствованный тюркский патроним. Кроме того, в документах XVII–XVIII веков встречаются прозвища Никотай, Никота, и они почти всегда привязаны к русским крестьянам и посадским людям, а не к татарским родам. Поэтому версия с именем Никита выглядит гораздо убедительнее.

Географически фамилия Никотаев встречается редко и преимущественно на юге России — в Ростовской, Волгоградской областях, а также в Краснодарском крае. Это указывает на возможное происхождение из среды однодворцев или государственных крестьян, которые переселялись на южные рубежи в XVIII–XIX веках. В центральных и северных губерниях фамилия почти не фиксируется, что делает её локальной и довольно молодой по меркам русских фамилий — скорее всего, она оформилась не раньше середины XVIII века, когда крестьян начали массово записывать с «уличными» фамилиями по отцу.

Интересная деталь: в отличие от более частых Никитаев или Никитин, фамилия Никотаев сохранила редкую диалектную форму имени. Если Никитины — это «дети Никиты» по церковной норме, то Никотаевы — это «дети Никотая», то есть люди, чей предок носил имя в его простонародном, нецерковном варианте. Такие фамилии ценны для историков языка: они показывают, как на самом деле звучали имена в живой речи, а не в святцах.