Mercurial > cgi-bin > hgwebdir.cgi > PR > Applications > VSs > VSs__H264__App

annotate libavcodec/arm/fft_neon.S @ 2:897f711a7157

find changesets by author, revision, files, or words in the commit message
rearrange to work with autoconf
author Nina Engelhardt <nengel@mailbox.tu-berlin.de>
date Tue, 25 Sep 2012 15:55:33 +0200
parents
children
rev   line source
nengel@2 1 /*
nengel@2 2 * ARM NEON optimised FFT
nengel@2 3 *
nengel@2 4 * Copyright (c) 2009 Mans Rullgard <mans@mansr.com>
nengel@2 5 * Copyright (c) 2009 Naotoshi Nojiri
nengel@2 6 *
nengel@2 7 * This file is part of FFmpeg.
nengel@2 8 *
nengel@2 9 * FFmpeg is free software; you can redistribute it and/or
nengel@2 10 * modify it under the terms of the GNU Lesser General Public
nengel@2 11 * License as published by the Free Software Foundation; either
nengel@2 12 * version 2.1 of the License, or (at your option) any later version.
nengel@2 13 *
nengel@2 14 * FFmpeg is distributed in the hope that it will be useful,
nengel@2 15 * but WITHOUT ANY WARRANTY; without even the implied warranty of
nengel@2 16 * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the GNU
nengel@2 17 * Lesser General Public License for more details.
nengel@2 18 *
nengel@2 19 * You should have received a copy of the GNU Lesser General Public
nengel@2 20 * License along with FFmpeg; if not, write to the Free Software
nengel@2 21 * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
nengel@2 22 */
nengel@2 23
nengel@2 24 #include "asm.S"
nengel@2 25
nengel@2 26 #define M_SQRT1_2 0.70710678118654752440
nengel@2 27
nengel@2 28 .text
nengel@2 29
nengel@2 30 function fft4_neon
nengel@2 31 vld1.32 {d0-d3}, [r0,:128]
nengel@2 32
nengel@2 33 vext.32 q8, q1, q1, #1 @ i2,r3 d3=i3,r2
nengel@2 34 vsub.f32 d6, d0, d1 @ r0-r1,i0-i1
nengel@2 35 vsub.f32 d7, d16, d17 @ r3-r2,i2-i3
nengel@2 36 vadd.f32 d4, d0, d1 @ r0+r1,i0+i1
nengel@2 37 vadd.f32 d5, d2, d3 @ i2+i3,r2+r3
nengel@2 38 vadd.f32 d1, d6, d7
nengel@2 39 vsub.f32 d3, d6, d7
nengel@2 40 vadd.f32 d0, d4, d5
nengel@2 41 vsub.f32 d2, d4, d5
nengel@2 42
nengel@2 43 vst1.32 {d0-d3}, [r0,:128]
nengel@2 44
nengel@2 45 bx lr
nengel@2 46 endfunc
nengel@2 47
nengel@2 48 function fft8_neon
nengel@2 49 mov r1, r0
nengel@2 50 vld1.32 {d0-d3}, [r1,:128]!
nengel@2 51 vld1.32 {d16-d19}, [r1,:128]
nengel@2 52
nengel@2 53 movw r2, #0x04f3 @ sqrt(1/2)
nengel@2 54 movt r2, #0x3f35
nengel@2 55 eor r3, r2, #1<<31
nengel@2 56 vdup.32 d31, r2
nengel@2 57
nengel@2 58 vext.32 q11, q1, q1, #1 @ i2,r3,i3,r2
nengel@2 59 vadd.f32 d4, d16, d17 @ r4+r5,i4+i5
nengel@2 60 vmov d28, r3, r2
nengel@2 61 vadd.f32 d5, d18, d19 @ r6+r7,i6+i7
nengel@2 62 vsub.f32 d17, d16, d17 @ r4-r5,i4-i5
nengel@2 63 vsub.f32 d19, d18, d19 @ r6-r7,i6-i7
nengel@2 64 vrev64.32 d29, d28
nengel@2 65 vadd.f32 d20, d0, d1 @ r0+r1,i0+i1
nengel@2 66 vadd.f32 d21, d2, d3 @ r2+r3,i2+i3
nengel@2 67 vmul.f32 d26, d17, d28 @ -a2r*w,a2i*w
nengel@2 68 vext.32 q3, q2, q2, #1
nengel@2 69 vmul.f32 d27, d19, d29 @ a3r*w,-a3i*w
nengel@2 70 vsub.f32 d23, d22, d23 @ i2-i3,r3-r2
nengel@2 71 vsub.f32 d22, d0, d1 @ r0-r1,i0-i1
nengel@2 72 vmul.f32 d24, d17, d31 @ a2r*w,a2i*w
nengel@2 73 vmul.f32 d25, d19, d31 @ a3r*w,a3i*w
nengel@2 74 vadd.f32 d0, d20, d21
nengel@2 75 vsub.f32 d2, d20, d21
nengel@2 76 vadd.f32 d1, d22, d23
nengel@2 77 vrev64.32 q13, q13
nengel@2 78 vsub.f32 d3, d22, d23
nengel@2 79 vsub.f32 d6, d6, d7
nengel@2 80 vadd.f32 d24, d24, d26 @ a2r+a2i,a2i-a2r t1,t2
nengel@2 81 vadd.f32 d25, d25, d27 @ a3r-a3i,a3i+a3r t5,t6
nengel@2 82 vadd.f32 d7, d4, d5
nengel@2 83 vsub.f32 d18, d2, d6
nengel@2 84 vext.32 q13, q12, q12, #1
nengel@2 85 vadd.f32 d2, d2, d6
nengel@2 86 vsub.f32 d16, d0, d7
nengel@2 87 vadd.f32 d5, d25, d24
nengel@2 88 vsub.f32 d4, d26, d27
nengel@2 89 vadd.f32 d0, d0, d7
nengel@2 90 vsub.f32 d17, d1, d5
nengel@2 91 vsub.f32 d19, d3, d4
nengel@2 92 vadd.f32 d3, d3, d4
nengel@2 93 vadd.f32 d1, d1, d5
nengel@2 94
nengel@2 95 vst1.32 {d16-d19}, [r1,:128]
nengel@2 96 vst1.32 {d0-d3}, [r0,:128]
nengel@2 97
nengel@2 98 bx lr
nengel@2 99 endfunc
nengel@2 100
nengel@2 101 function fft16_neon
nengel@2 102 movrel r1, mppm
nengel@2 103 vld1.32 {d16-d19}, [r0,:128]! @ q8{r0,i0,r1,i1} q9{r2,i2,r3,i3}
nengel@2 104 pld [r0, #32]
nengel@2 105 vld1.32 {d2-d3}, [r1,:128]
nengel@2 106 vext.32 q13, q9, q9, #1
nengel@2 107 vld1.32 {d22-d25}, [r0,:128]! @ q11{r4,i4,r5,i5} q12{r6,i5,r7,i7}
nengel@2 108 vadd.f32 d4, d16, d17
nengel@2 109 vsub.f32 d5, d16, d17
nengel@2 110 vadd.f32 d18, d18, d19
nengel@2 111 vsub.f32 d19, d26, d27
nengel@2 112
nengel@2 113 vadd.f32 d20, d22, d23
nengel@2 114 vsub.f32 d22, d22, d23
nengel@2 115 vsub.f32 d23, d24, d25
nengel@2 116 vadd.f32 q8, q2, q9 @ {r0,i0,r1,i1}
nengel@2 117 vadd.f32 d21, d24, d25
nengel@2 118 vmul.f32 d24, d22, d2
nengel@2 119 vsub.f32 q9, q2, q9 @ {r2,i2,r3,i3}
nengel@2 120 vmul.f32 d25, d23, d3
nengel@2 121 vuzp.32 d16, d17 @ {r0,r1,i0,i1}
nengel@2 122 vmul.f32 q1, q11, d2[1]
nengel@2 123 vuzp.32 d18, d19 @ {r2,r3,i2,i3}
nengel@2 124 vrev64.32 q12, q12
nengel@2 125 vadd.f32 q11, q12, q1 @ {t1a,t2a,t5,t6}
nengel@2 126 vld1.32 {d24-d27}, [r0,:128]! @ q12{r8,i8,r9,i9} q13{r10,i10,r11,i11}
nengel@2 127 vzip.32 q10, q11
nengel@2 128 vld1.32 {d28-d31}, [r0,:128] @ q14{r12,i12,r13,i13} q15{r14,i14,r15,i15}
nengel@2 129 vadd.f32 d0, d22, d20
nengel@2 130 vadd.f32 d1, d21, d23
nengel@2 131 vsub.f32 d2, d21, d23
nengel@2 132 vsub.f32 d3, d22, d20
nengel@2 133 sub r0, r0, #96
nengel@2 134 vext.32 q13, q13, q13, #1
nengel@2 135 vsub.f32 q10, q8, q0 @ {r4,r5,i4,i5}
nengel@2 136 vadd.f32 q8, q8, q0 @ {r0,r1,i0,i1}
nengel@2 137 vext.32 q15, q15, q15, #1
nengel@2 138 vsub.f32 q11, q9, q1 @ {r6,r7,i6,i7}
nengel@2 139 vswp d25, d26 @ q12{r8,i8,i10,r11} q13{r9,i9,i11,r10}
nengel@2 140 vadd.f32 q9, q9, q1 @ {r2,r3,i2,i3}
nengel@2 141 vswp d29, d30 @ q14{r12,i12,i14,r15} q15{r13,i13,i15,r14}
nengel@2 142 vadd.f32 q0, q12, q13 @ {t1,t2,t5,t6}
nengel@2 143 vadd.f32 q1, q14, q15 @ {t1a,t2a,t5a,t6a}
nengel@2 144 movrel r2, X(ff_cos_16)
nengel@2 145 vsub.f32 q13, q12, q13 @ {t3,t4,t7,t8}
nengel@2 146 vrev64.32 d1, d1
nengel@2 147 vsub.f32 q15, q14, q15 @ {t3a,t4a,t7a,t8a}
nengel@2 148 vrev64.32 d3, d3
nengel@2 149 movrel r3, pmmp
nengel@2 150 vswp d1, d26 @ q0{t1,t2,t3,t4} q13{t6,t5,t7,t8}
nengel@2 151 vswp d3, d30 @ q1{t1a,t2a,t3a,t4a} q15{t6a,t5a,t7a,t8a}
nengel@2 152 vadd.f32 q12, q0, q13 @ {r8,i8,r9,i9}
nengel@2 153 vadd.f32 q14, q1, q15 @ {r12,i12,r13,i13}
nengel@2 154 vld1.32 {d4-d5}, [r2,:64]
nengel@2 155 vsub.f32 q13, q0, q13 @ {r10,i10,r11,i11}
nengel@2 156 vsub.f32 q15, q1, q15 @ {r14,i14,r15,i15}
nengel@2 157 vswp d25, d28 @ q12{r8,i8,r12,i12} q14{r9,i9,r13,i13}
nengel@2 158 vld1.32 {d6-d7}, [r3,:128]
nengel@2 159 vrev64.32 q1, q14
nengel@2 160 vmul.f32 q14, q14, d4[1]
nengel@2 161 vmul.f32 q1, q1, q3
nengel@2 162 vmla.f32 q14, q1, d5[1] @ {t1a,t2a,t5a,t6a}
nengel@2 163 vswp d27, d30 @ q13{r10,i10,r14,i14} q15{r11,i11,r15,i15}
nengel@2 164 vzip.32 q12, q14
nengel@2 165 vadd.f32 d0, d28, d24
nengel@2 166 vadd.f32 d1, d25, d29
nengel@2 167 vsub.f32 d2, d25, d29
nengel@2 168 vsub.f32 d3, d28, d24
nengel@2 169 vsub.f32 q12, q8, q0 @ {r8,r9,i8,i9}
nengel@2 170 vadd.f32 q8, q8, q0 @ {r0,r1,i0,i1}
nengel@2 171 vsub.f32 q14, q10, q1 @ {r12,r13,i12,i13}
nengel@2 172 mov r1, #32
nengel@2 173 vadd.f32 q10, q10, q1 @ {r4,r5,i4,i5}
nengel@2 174 vrev64.32 q0, q13
nengel@2 175 vmul.f32 q13, q13, d5[0]
nengel@2 176 vrev64.32 q1, q15
nengel@2 177 vmul.f32 q15, q15, d5[1]
nengel@2 178 vst2.32 {d16-d17},[r0,:128], r1
nengel@2 179 vmul.f32 q0, q0, q3
nengel@2 180 vst2.32 {d20-d21},[r0,:128], r1
nengel@2 181 vmul.f32 q1, q1, q3
nengel@2 182 vmla.f32 q13, q0, d5[0] @ {t1,t2,t5,t6}
nengel@2 183 vmla.f32 q15, q1, d4[1] @ {t1a,t2a,t5a,t6a}
nengel@2 184 vst2.32 {d24-d25},[r0,:128], r1
nengel@2 185 vst2.32 {d28-d29},[r0,:128]
nengel@2 186 vzip.32 q13, q15
nengel@2 187 sub r0, r0, #80
nengel@2 188 vadd.f32 d0, d30, d26
nengel@2 189 vadd.f32 d1, d27, d31
nengel@2 190 vsub.f32 d2, d27, d31
nengel@2 191 vsub.f32 d3, d30, d26
nengel@2 192 vsub.f32 q13, q9, q0 @ {r10,r11,i10,i11}
nengel@2 193 vadd.f32 q9, q9, q0 @ {r2,r3,i2,i3}
nengel@2 194 vsub.f32 q15, q11, q1 @ {r14,r15,i14,i15}
nengel@2 195 vadd.f32 q11, q11, q1 @ {r6,r7,i6,i7}
nengel@2 196 vst2.32 {d18-d19},[r0,:128], r1
nengel@2 197 vst2.32 {d22-d23},[r0,:128], r1
nengel@2 198 vst2.32 {d26-d27},[r0,:128], r1
nengel@2 199 vst2.32 {d30-d31},[r0,:128]
nengel@2 200 bx lr
nengel@2 201 endfunc
nengel@2 202
nengel@2 203 function fft_pass_neon
nengel@2 204 push {r4-r6,lr}
nengel@2 205 mov r6, r2 @ n
nengel@2 206 lsl r5, r2, #3 @ 2 * n * sizeof FFTSample
nengel@2 207 lsl r4, r2, #4 @ 2 * n * sizeof FFTComplex
nengel@2 208 lsl r2, r2, #5 @ 4 * n * sizeof FFTComplex
nengel@2 209 add r3, r2, r4
nengel@2 210 add r4, r4, r0 @ &z[o1]
nengel@2 211 add r2, r2, r0 @ &z[o2]
nengel@2 212 add r3, r3, r0 @ &z[o3]
nengel@2 213 vld1.32 {d20-d21},[r2,:128] @ {z[o2],z[o2+1]}
nengel@2 214 movrel r12, pmmp
nengel@2 215 vld1.32 {d22-d23},[r3,:128] @ {z[o3],z[o3+1]}
nengel@2 216 add r5, r5, r1 @ wim
nengel@2 217 vld1.32 {d6-d7}, [r12,:128] @ pmmp
nengel@2 218 vswp d21, d22
nengel@2 219 vld1.32 {d4}, [r1,:64]! @ {wre[0],wre[1]}
nengel@2 220 sub r5, r5, #4 @ wim--
nengel@2 221 vrev64.32 q1, q11
nengel@2 222 vmul.f32 q11, q11, d4[1]
nengel@2 223 vmul.f32 q1, q1, q3
nengel@2 224 vld1.32 {d5[0]}, [r5,:32] @ d5[0] = wim[-1]
nengel@2 225 vmla.f32 q11, q1, d5[0] @ {t1a,t2a,t5a,t6a}
nengel@2 226 vld2.32 {d16-d17},[r0,:128] @ {z[0],z[1]}
nengel@2 227 sub r6, r6, #1 @ n--
nengel@2 228 vld2.32 {d18-d19},[r4,:128] @ {z[o1],z[o1+1]}
nengel@2 229 vzip.32 q10, q11
nengel@2 230 vadd.f32 d0, d22, d20
nengel@2 231 vadd.f32 d1, d21, d23
nengel@2 232 vsub.f32 d2, d21, d23
nengel@2 233 vsub.f32 d3, d22, d20
nengel@2 234 vsub.f32 q10, q8, q0
nengel@2 235 vadd.f32 q8, q8, q0
nengel@2 236 vsub.f32 q11, q9, q1
nengel@2 237 vadd.f32 q9, q9, q1
nengel@2 238 vst2.32 {d20-d21},[r2,:128]! @ {z[o2],z[o2+1]}
nengel@2 239 vst2.32 {d16-d17},[r0,:128]! @ {z[0],z[1]}
nengel@2 240 vst2.32 {d22-d23},[r3,:128]! @ {z[o3],z[o3+1]}
nengel@2 241 vst2.32 {d18-d19},[r4,:128]! @ {z[o1],z[o1+1]}
nengel@2 242 sub r5, r5, #8 @ wim -= 2
nengel@2 243 1:
nengel@2 244 vld1.32 {d20-d21},[r2,:128] @ {z[o2],z[o2+1]}
nengel@2 245 vld1.32 {d22-d23},[r3,:128] @ {z[o3],z[o3+1]}
nengel@2 246 vswp d21, d22
nengel@2 247 vld1.32 {d4}, [r1]! @ {wre[0],wre[1]}
nengel@2 248 vrev64.32 q0, q10
nengel@2 249 vmul.f32 q10, q10, d4[0]
nengel@2 250 vrev64.32 q1, q11
nengel@2 251 vmul.f32 q11, q11, d4[1]
nengel@2 252 vld1.32 {d5}, [r5] @ {wim[-1],wim[0]}
nengel@2 253 vmul.f32 q0, q0, q3
nengel@2 254 sub r5, r5, #8 @ wim -= 2
nengel@2 255 vmul.f32 q1, q1, q3
nengel@2 256 vmla.f32 q10, q0, d5[1] @ {t1,t2,t5,t6}
nengel@2 257 vmla.f32 q11, q1, d5[0] @ {t1a,t2a,t5a,t6a}
nengel@2 258 vld2.32 {d16-d17},[r0,:128] @ {z[0],z[1]}
nengel@2 259 subs r6, r6, #1 @ n--
nengel@2 260 vld2.32 {d18-d19},[r4,:128] @ {z[o1],z[o1+1]}
nengel@2 261 vzip.32 q10, q11
nengel@2 262 vadd.f32 d0, d22, d20
nengel@2 263 vadd.f32 d1, d21, d23
nengel@2 264 vsub.f32 d2, d21, d23
nengel@2 265 vsub.f32 d3, d22, d20
nengel@2 266 vsub.f32 q10, q8, q0
nengel@2 267 vadd.f32 q8, q8, q0
nengel@2 268 vsub.f32 q11, q9, q1
nengel@2 269 vadd.f32 q9, q9, q1
nengel@2 270 vst2.32 {d20-d21}, [r2,:128]! @ {z[o2],z[o2+1]}
nengel@2 271 vst2.32 {d16-d17}, [r0,:128]! @ {z[0],z[1]}
nengel@2 272 vst2.32 {d22-d23}, [r3,:128]! @ {z[o3],z[o3+1]}
nengel@2 273 vst2.32 {d18-d19}, [r4,:128]! @ {z[o1],z[o1+1]}
nengel@2 274 bne 1b
nengel@2 275
nengel@2 276 pop {r4-r6,pc}
nengel@2 277 endfunc
nengel@2 278
nengel@2 279 .macro def_fft n, n2, n4
nengel@2 280 .align 6
nengel@2 281 function fft\n\()_neon
nengel@2 282 push {r4, lr}
nengel@2 283 mov r4, r0
nengel@2 284 bl fft\n2\()_neon
nengel@2 285 add r0, r4, #\n4*2*8
nengel@2 286 bl fft\n4\()_neon
nengel@2 287 add r0, r4, #\n4*3*8
nengel@2 288 bl fft\n4\()_neon
nengel@2 289 mov r0, r4
nengel@2 290 pop {r4, lr}
nengel@2 291 movrel r1, X(ff_cos_\n)
nengel@2 292 mov r2, #\n4/2
nengel@2 293 b fft_pass_neon
nengel@2 294 endfunc
nengel@2 295 .endm
nengel@2 296
nengel@2 297 def_fft 32, 16, 8
nengel@2 298 def_fft 64, 32, 16
nengel@2 299 def_fft 128, 64, 32
nengel@2 300 def_fft 256, 128, 64
nengel@2 301 def_fft 512, 256, 128
nengel@2 302 def_fft 1024, 512, 256
nengel@2 303 def_fft 2048, 1024, 512
nengel@2 304 def_fft 4096, 2048, 1024
nengel@2 305 def_fft 8192, 4096, 2048
nengel@2 306 def_fft 16384, 8192, 4096
nengel@2 307 def_fft 32768, 16384, 8192
nengel@2 308 def_fft 65536, 32768, 16384
nengel@2 309
nengel@2 310 function ff_fft_calc_neon, export=1
nengel@2 311 ldr r2, [r0]
nengel@2 312 sub r2, r2, #2
nengel@2 313 movrel r3, fft_tab_neon
nengel@2 314 ldr r3, [r3, r2, lsl #2]
nengel@2 315 mov r0, r1
nengel@2 316 bx r3
nengel@2 317 endfunc
nengel@2 318
nengel@2 319 function ff_fft_permute_neon, export=1
nengel@2 320 push {r4,lr}
nengel@2 321 mov r12, #1
nengel@2 322 ldr r2, [r0] @ nbits
nengel@2 323 ldr r3, [r0, #20] @ tmp_buf
nengel@2 324 ldr r0, [r0, #8] @ revtab
nengel@2 325 lsl r12, r12, r2
nengel@2 326 mov r2, r12
nengel@2 327 1:
nengel@2 328 vld1.32 {d0-d1}, [r1,:128]!
nengel@2 329 ldr r4, [r0], #4
nengel@2 330 uxth lr, r4
nengel@2 331 uxth r4, r4, ror #16
nengel@2 332 add lr, r3, lr, lsl #3
nengel@2 333 add r4, r3, r4, lsl #3
nengel@2 334 vst1.32 {d0}, [lr,:64]
nengel@2 335 vst1.32 {d1}, [r4,:64]
nengel@2 336 subs r12, r12, #2
nengel@2 337 bgt 1b
nengel@2 338
nengel@2 339 sub r1, r1, r2, lsl #3
nengel@2 340 1:
nengel@2 341 vld1.32 {d0-d3}, [r3,:128]!
nengel@2 342 vst1.32 {d0-d3}, [r1,:128]!
nengel@2 343 subs r2, r2, #4
nengel@2 344 bgt 1b
nengel@2 345
nengel@2 346 pop {r4,pc}
nengel@2 347 endfunc
nengel@2 348
nengel@2 349 .section .rodata
nengel@2 350 .align 4
nengel@2 351 fft_tab_neon:
nengel@2 352 .word fft4_neon
nengel@2 353 .word fft8_neon
nengel@2 354 .word fft16_neon
nengel@2 355 .word fft32_neon
nengel@2 356 .word fft64_neon
nengel@2 357 .word fft128_neon
nengel@2 358 .word fft256_neon
nengel@2 359 .word fft512_neon
nengel@2 360 .word fft1024_neon
nengel@2 361 .word fft2048_neon
nengel@2 362 .word fft4096_neon
nengel@2 363 .word fft8192_neon
nengel@2 364 .word fft16384_neon
nengel@2 365 .word fft32768_neon
nengel@2 366 .word fft65536_neon
nengel@2 367 .size fft_tab_neon, . - fft_tab_neon
nengel@2 368
nengel@2 369 .align 4
nengel@2 370 pmmp: .float +1.0, -1.0, -1.0, +1.0
nengel@2 371 mppm: .float -M_SQRT1_2, M_SQRT1_2, M_SQRT1_2, -M_SQRT1_2