Трудно сказать, что не так, ведь вы не описали детально желаемое поведение. Упрощенно говоря, вы не учитываете, что у стандартного шаблона есть свои триггеры, которые переопределяют ваши. Правильный путь, скорее всего - переопределять шаблон целиком, а не добавлять отдельный стиль.

Например, если нужно, чтобы кнопка меняла цвет между красным и голубым при нажатии, это будет как-то так:

<Window.Resources>
        
        <ControlTemplate x:Key="ToggleButtonControlTemplate1" TargetType="{x:Type ToggleButton}">
            <Border x:Name="border" BorderBrush="{TemplateBinding BorderBrush}" BorderThickness="{TemplateBinding BorderThickness}" Background="{TemplateBinding Background}" SnapsToDevicePixels="True">
                <ContentPresenter x:Name="contentPresenter" ContentTemplate="{TemplateBinding ContentTemplate}" Content="{TemplateBinding Content}" ContentStringFormat="{TemplateBinding ContentStringFormat}" Focusable="False" HorizontalAlignment="{TemplateBinding HorizontalContentAlignment}" Margin="{TemplateBinding Padding}" RecognizesAccessKey="True" SnapsToDevicePixels="{TemplateBinding SnapsToDevicePixels}" VerticalAlignment="{TemplateBinding VerticalContentAlignment}"/>
            </Border>
            <ControlTemplate.Triggers>
                <Trigger Property="IsChecked" Value="true">
                    <Setter Property="Background" TargetName="border" Value="Red"></Setter>
                </Trigger>
                <Trigger Property="IsChecked" Value="false">
                    <Setter Property="Background" TargetName="border" Value="LightBlue"></Setter>
                </Trigger>                
            </ControlTemplate.Triggers>
        </ControlTemplate>
</Window.Resources>

<ToggleButton Content="but" Template="{DynamicResource ToggleButtonControlTemplate1}"/>