export function memcpy(dest: usize, src: usize, n: usize): usize { var ret = dest; var w: u32, x: u32; // copy 1 byte each until src is aligned to 4 bytes while (n && src % 4) { store(dest++, load(src++)); n--; } // if dst is aligned to 4 bytes as well, copy 4 bytes each if (dest % 4 == 0) { while (n >= 16) { store(dest , load(src )); store(dest + 4, load(src + 4)); store(dest + 8, load(src + 8)); store(dest + 12, load(src + 12)); src += 16; dest += 16; n -= 16; } if (n & 8) { store(dest , load(src )); store(dest + 4, load(src + 4)); dest += 8; src += 8; } if (n & 4) { store(dest, load(src)); dest += 4; src += 4; } if (n & 2) { // drop to 2 bytes each store(dest, load(src)); dest += 2; src += 2; } if (n & 1) { // drop to 1 byte store(dest++, load(src++)); } return ret; } // if dst is not aligned to 4 bytes, use alternating shifts to copy 4 bytes each // doing shifts if faster when copying enough bytes (here: 32 or more) if (n >= 32) { switch (dest % 4) { // known to be != 0 case 1: w = load(src); store(dest++, load(src++)); store(dest++, load(src++)); store(dest++, load(src++)); n -= 3; while (n >= 17) { x = load(src + 1); store(dest, w >> 24 | x << 8); w = load(src + 5); store(dest + 4, x >> 24 | w << 8); x = load(src + 9); store(dest + 8, w >> 24 | x << 8); w = load(src + 13); store(dest + 12, x >> 24 | w << 8); src += 16; dest += 16; n -= 16; } break; case 2: w = load(src); store(dest++, load(src++)); store(dest++, load(src++)); n -= 2; while (n >= 18) { x = load(src + 2); store(dest, w >> 16 | x << 16); w = load(src + 6); store(dest + 4, x >> 16 | w << 16); x = load(src + 10); store(dest + 8, w >> 16 | x << 16); w = load(src + 14); store(dest + 12, x >> 16 | w << 16); src += 16; dest += 16; n -= 16; } break; case 3: w = load(src); store(dest++, load(src++)); n -= 1; while (n >= 19) { x = load(src + 3); store(dest, w >> 8 | x << 24); w = load(src + 7); store(dest + 4, x >> 8 | w << 24); x = load(src + 11); store(dest + 8, w >> 8 | x << 24); w = load(src + 15); store(dest + 12, x >> 8 | w << 24); src += 16; dest += 16; n -= 16; } break; } } // copy remaining bytes one by one if (n & 16) { store(dest++, load(src++)); store(dest++, load(src++)); store(dest++, load(src++)); store(dest++, load(src++)); store(dest++, load(src++)); store(dest++, load(src++)); store(dest++, load(src++)); store(dest++, load(src++)); store(dest++, load(src++)); store(dest++, load(src++)); store(dest++, load(src++)); store(dest++, load(src++)); store(dest++, load(src++)); store(dest++, load(src++)); store(dest++, load(src++)); store(dest++, load(src++)); } if (n & 8) { store(dest++, load(src++)); store(dest++, load(src++)); store(dest++, load(src++)); store(dest++, load(src++)); store(dest++, load(src++)); store(dest++, load(src++)); store(dest++, load(src++)); store(dest++, load(src++)); } if (n & 4) { store(dest++, load(src++)); store(dest++, load(src++)); store(dest++, load(src++)); store(dest++, load(src++)); } if (n & 2) { store(dest++, load(src++)); store(dest++, load(src++)); } if (n & 1) { store(dest++, load(src++)); } return ret; } const base: usize = 8; store(base , 0x1111111111111111); store(base + 8 , 0x2222222222222222); store(base + 16, 0x3333333333333333); store(base + 24, 0x4444444444444444); var dest: usize; dest = memcpy(base + 1, base + 16, 4); assert(dest == base + 1); assert(load(base) == 0x1111113333333311); dest = memcpy(base, base, 32); assert(dest == base); assert(load(base) == 0x1111113333333311); assert(load(base + 8) == 0x2222222222222222); assert(load(base + 16) == 0x3333333333333333); assert(load(base + 24) == 0x4444444444444444); dest = memcpy(base + 5, base + 28, 3); assert(load(base) == 0x4444443333333311); dest = memcpy(base + 8, base + 16, 15); assert(load(base) == 0x4444443333333311); assert(load(base + 8) == 0x3333333333333333); assert(load(base + 16) == 0x3344444444444444); assert(load(base + 24) == 0x4444444444444444);