"С горем пополам нахожу там Chart.Series.Points,
а где IndexOf, Remuve и RemuveAt ?"

Points имеет тип DataPointCollection. Методы типа IndexOf наследуются от Collection: https://docs.microsoft.com/ru-ru/dotnet/api/system.collections.objectmodel.collection-1.indexof?view=netframework-4.8#System_Collections_ObjectModel_Collection_1_IndexOf__0_ В документации по Charting их и не должно быть

 "Смотрю дальше, нужна сборка, ищу в интернете,
откуда скачать последнюю версию -
"System.Windows.Forms.DataVisualization.dll"
Появлются какие-то левые страницы, с какими-то версиями,
но мне нужна фирменная последняя версия - 
на фирменном сайте не нашел."

Эта сборка поставляется в составе .NET Framework, который, в свою очередь, поставляется в составе Windows. Ничего скачивать не надо.

"Но, главное, почему это не работает."

Это - то, что закомментировано? Работа IndexOf полностью основана на том, как работает метод Equals у типа элемента коллекции. Если бы он был переопределен, чтобы осуществлять сравнение по значениям координат, это бы работало. Но, судя по вашему тесту, это не сделано, и он просто сравнивает по ссылке. Т.е. созданную вами точку (6,6) он считает другой, чем такая же точка в коллекции. Рабочий способ (один из) вы уже сами нашли - поиск с перебором. Второй, вероятно - FindByValue(6,"X"); Найденное значение будет уже из коллекции, и его можно скармливать IndexOf.

Вероятно, координаты (X;Y) для графика (который линией), а для столбчатой диаграммы координаты X по сути не нужны, достаточно Y (высоты столбца). Горизонтальная координата подбирается автоматически, чтобы столбцы были рядом друг с другом. 

chart.Series[0].Points.AddXY(1,1);